а) Так как B, C, B_1, C_1 лежат на одной окружности, четырёхугольник BCB_1C_1 вписанный, и его внешний угол при вершине B_1 равен внутреннему при противоположной вершине B: \angle AB_1C_1=\angle ABC. Общий угол A довершает дело — треугольники AB_1C_1 и ABC подобны.

б) Коэффициент подобия k: из S_{AB_1C_1}=\dfrac14 S_{BCB_1C_1} имеем S_{ABC}=5S_{AB_1C_1}, значит k^2=\dfrac15, k=\dfrac{1}{\sqrt5}. Тогда искомая сторона B_1C_1=k\cdot BC=\dfrac{1}{\sqrt5}\cdot 5\sqrt5=5.

Радиус: B_1C_1=2R\sin\beta_1, BC=2R\sin\beta, \angle A=\beta-\beta_1. Отсюда \sin\beta_1=\dfrac{k\sin A}{\sqrt{1+k^2-2k\cos A}} и R=\dfrac{B_1C_1}{2\sin\beta_1}.

При \cos150^\circ=-\dfrac{\sqrt3}{2}, \sin150^\circ=\dfrac12, k=\dfrac{1}{\sqrt5}: 1+k^2-2k\cos A=1+\dfrac15+\dfrac{\sqrt3}{\sqrt5}=\dfrac{6+\sqrt{15}}{5}. Значит \sin\beta_1=\dfrac{\frac{1}{\sqrt5}\cdot\frac12}{\sqrt{(6+\sqrt{15})/5}}=\dfrac{1}{2\sqrt{6+\sqrt{15}}}, и R=\dfrac{5}{2\sin\beta_1}=\dfrac{5}{\;1/\sqrt{6+\sqrt{15}}\;}=5\sqrt{6+\sqrt{15}}.

Итак B_1C_1=5, R=5\sqrt{6+\sqrt{15}}.