Найдём недостающий угол: \angle NKL=360^\circ-90^\circ-60^\circ-60^\circ=150^\circ. Центр O — пересечение биссектрис углов, радиусы в точки касания перпендикулярны сторонам.

а) Пусть окружность касается сторон KL, LM, MN, NK в точках P, Q, A, B. Между точками касания, прилегающими к вершине, центральный угол равен 180^\circ минус угол вершины. Дуги: у K дуга BP=180^\circ-150^\circ=30^\circ; у L дуга PQ=180^\circ-60^\circ=120^\circ; у M дуга QA=180^\circ-60^\circ=120^\circ; у N дуга AB=180^\circ-90^\circ=90^\circ. Сумма 30^\circ+120^\circ+120^\circ+90^\circ=360^\circ — верно.

Луч OL смотрит в середину дуги PQ. Отсчитывая от радиуса OQ: радиус OA повёрнут на дугу QA=120^\circ, а направление OL — в другую сторону на половину дуги PQ, то есть на 60^\circ. Между OA и OL выходит 120^\circ+60^\circ=180^\circ, значит, это противоположные лучи, и точки L, O, A лежат на одной прямой (причём O между L и A). Утверждение доказано.

б) Пусть r — радиус. Тогда OL=\dfrac{r}{\sin(\angle L/2)}=\dfrac{r}{\sin30^\circ}=2r, а OA=r. Так как O между L и A: LA=OL+OA=2r+r=3r=3, откуда r=1. Дальше MN=MA+AN, где AN=\dfrac{r}{\tan45^\circ}=r и MA=\dfrac{r}{\tan30^\circ}=r\sqrt3. Значит, MN=r\sqrt3+r=r(\sqrt3+1)=1\cdot(\sqrt3+1)=1+\sqrt3. Проверка: r=1>0, окружность есть, MN=1+\sqrt3\approx2{,}73 — всё сходится.