Сначала найдём четвёртый угол. Сумма углов четырёхугольника равна 360^\circ, поэтому \angle LMN=360^\circ-90^\circ-120^\circ-120^\circ=30^\circ. Центр O вписанной окружности — это точка пересечения биссектрис всех углов, а радиусы, проведённые в точки касания, перпендикулярны сторонам.

а) Удобно смотреть на дуги между точками касания. Если окружность касается сторон KL, LM, MN, NK в точках P, Q, A, B, то между двумя точками касания, «прилегающими» к вершине, центральный угол равен 180^\circ минус угол при этой вершине. Считаем дуги по кругу: у вершины K дуга BP=180^\circ-120^\circ=60^\circ; у вершины L дуга PQ=180^\circ-120^\circ=60^\circ; у вершины M дуга QA=180^\circ-30^\circ=150^\circ; у вершины N дуга AB=180^\circ-90^\circ=90^\circ. В сумме 60^\circ+60^\circ+150^\circ+90^\circ=360^\circ — сходится.

Луч OL идёт по биссектрисе угла L, то есть в середину дуги PQ. Возьмём радиус OQ за начало отсчёта углов. Тогда радиус OA повёрнут от OQ на дугу QA=150^\circ, а радиус в середину дуги PQ (это и есть направление OL) повёрнут в другую сторону на 30^\circ (половину дуги PQ). Между направлениями OA и OL получается ровно 150^\circ+30^\circ=180^\circ. Значит, OA и OL — противоположные лучи, то есть точки L, O, A лежат на одной прямой, причём O между L и A. Точка A лежит на прямой LO, что и требовалось.

б) Обозначим радиус вписанной окружности r. Расстояние от вершины до центра выражается через полуугол: OL=\dfrac{r}{\sin(\angle L/2)}=\dfrac{r}{\sin 60^\circ}=\dfrac{2r}{\sqrt3}, а OA=r (радиус в точку касания). Так как O лежит между L и A, то LA=OL+OA=\dfrac{2r}{\sqrt3}+r=1. Отсюда r=\dfrac{1}{1+\frac{2}{\sqrt3}}=\dfrac{\sqrt3}{\sqrt3+2}=\sqrt3(2-\sqrt3)=2\sqrt3-3.

Теперь сама сторона: MN=MA+AN. Отрезки касательных: AN=\dfrac{r}{\tan(\angle N/2)}=\dfrac{r}{\tan45^\circ}=r, а MA=\dfrac{r}{\tan(\angle M/2)}=\dfrac{r}{\tan15^\circ}=r(2+\sqrt3) (поскольку \tan15^\circ=2-\sqrt3). Значит, MN=r(2+\sqrt3)+r=r(3+\sqrt3). Подставляем r=2\sqrt3-3: MN=(2\sqrt3-3)(3+\sqrt3)=6\sqrt3+2\cdot3-9-3\sqrt3=3\sqrt3-3. Проверка: r=2\sqrt3-3\approx0{,}46>0 — окружность существует, и MN\approx2{,}2 — всё сходится.