Смотри, вся задача крутится вокруг двух отрезков CM и DN. Первым делом заметим их главное свойство. Прямоугольные треугольники CBM и DCN равны: у них CB = DC (стороны квадрата), BM = CN (половинки сторон), а углы при B и C прямые. Значит, \angle BCM = \angle CDN. А теперь посмотри на треугольник KCN: в нём \angle KCN = \angle BCM... то есть \angle KCN = \angle CDN, и вместе с общим для DCN разложением углов это даёт \angle CKD = 90^\circ. Проще говоря, CM \perp DN. Это ключ ко всему.

а) Соберём вокруг точки K удобную окружность. Рассмотрим четырёхугольник BMKN. В нём \angle MBN = 90^\circ — это угол самого квадрата. А \angle MKN = 90^\circ — это как раз угол между CM и DN, который мы только что нашли. Сумма противоположных углов 90^\circ + 90^\circ = 180^\circ, а значит, около четырёхугольника BMKN можно описать окружность. Теперь работает вписанный угол: \angle BKM и \angle BNM опираются на одну и ту же дугу BM и лежат по одну сторону от хорды, поэтому они равны. Осталось найти \angle BNM. В треугольнике BNM угол при B прямой, а катеты равны: BM = BN = \tfrac{1}{2}AB. Это равнобедренный прямоугольный треугольник, значит, \angle BNM = 45^\circ. Отсюда \angle BKM = 45^\circ, что и требовалось.

б) Теперь удобнее посчитать в координатах. Пусть сторона квадрата a = AB; поставим A=(0;0), B=(a;0), C=(a;a), D=(0;a). Тогда M=\left(\tfrac{a}{2};0\right) — середина AB, N=\left(a;\tfrac{a}{2}\right) — середина BC. Прямая CM имеет уравнение y = 2x - a, прямая DN — уравнение y = a - \tfrac{x}{2}. Приравниваем и находим точку пересечения: 2x - a = a - \tfrac{x}{2}, откуда \tfrac{5}{2}x = 2a, то есть x = \tfrac{4a}{5}, y = \tfrac{3a}{5}. Значит, K=\left(\tfrac{4a}{5};\tfrac{3a}{5}\right).

Теперь стороны треугольника ABK. Считаем расстояния: AK = \sqrt{\left(\tfrac{4a}{5}\right)^2+\left(\tfrac{3a}{5}\right)^2} = \sqrt{\tfrac{16a^2+9a^2}{25}} = a; далее AB = a; и BK = \sqrt{\left(a-\tfrac{4a}{5}\right)^2+\left(\tfrac{3a}{5}\right)^2} = \sqrt{\tfrac{a^2+9a^2}{25}} = \tfrac{a\sqrt{10}}{5}. Площадь треугольника ABK проще всего взять по координатам: основание AB=a лежит на оси, высота равна ординате K, то есть \tfrac{3a}{5}, поэтому S = \tfrac{1}{2}\cdot a\cdot \tfrac{3a}{5} = \tfrac{3a^2}{10}.

Радиус описанной окружности удобно взять по формуле R = \dfrac{AB\cdot AK\cdot BK}{4S}. Подставляем: R = \dfrac{a\cdot a\cdot \tfrac{a\sqrt{10}}{5}}{4\cdot \tfrac{3a^2}{10}} = \dfrac{\tfrac{a^3\sqrt{10}}{5}}{\tfrac{6a^2}{5}} = \dfrac{a\sqrt{10}}{6}. Осталось подставить a = 2\sqrt{10}: R = \dfrac{2\sqrt{10}\cdot \sqrt{10}}{6} = \dfrac{2\cdot 10}{6} = \dfrac{10}{3}. Проверка: AK = a = AB, треугольник получился «ладный», и число вышло аккуратное — всё сходится.