а) Возьмём диагональ BD основания. В квадрате диагонали перпендикулярны, поэтому BD\perp AC. Кроме того, BD лежит в плоскости основания, а высота SO перпендикулярна основанию, значит BD\perp SO. Итак, BD перпендикулярна двум пересекающимся прямым AC и SO плоскости SAC — стало быть, BD\perp плоскости SAC, а вместе с ней и BD\perp SC (ребро SC лежит в этой плоскости).

Плоскость \alpha проведена через O перпендикулярно SC. Прямая BD проходит через O и перпендикулярна SC — значит, она целиком лежит в \alpha. Следовательно, \alpha содержит точки B и D, что и требовалось.

б) Сечение — треугольник BDT, где T=\alpha\cap SC (плоскость проходит через B, D и упирается в ребро SC). Его площадь удобно считать так: основание BD=\sqrt2 (диагональ квадрата со стороной 1), а высота — это OT, ведь O — середина BD и OT\perp BD. Значит S_{BDT}=\tfrac12\cdot BD\cdot OT=\tfrac{\sqrt2}{2}\,OT.

Приравняем к данной площади: \tfrac{\sqrt2}{2}\,OT=\tfrac{\sqrt2}{3}, откуда OT=\tfrac23. Но OT — расстояние от O до прямой SC (ведь \alpha\perp SC, а OT лежит в \alpha). В прямоугольном треугольнике SOC (прямой угол при O) с катетами OC=\tfrac{\sqrt2}{2} и OS=h высота к гипотенузе равна \tfrac{OC\cdot OS}{SC}=\tfrac{\tfrac{\sqrt2}{2}h}{\sqrt{\tfrac12+h^2}}=\tfrac23. Решая, получаем h^2=4, h=2.

Теперь найдём положение T на SC. Параметр s=\tfrac{ST}{SC}=\tfrac{2h^2}{1+2h^2}=\tfrac{8}{9}. Значит ST:TC=\tfrac89:\tfrac19=8:1, считая от вершины S. Проверка: при h=2 высота OT=\tfrac{(\sqrt2/2)\cdot2}{\sqrt{4{,}5}}=\tfrac23, площадь \tfrac{\sqrt2}{2}\cdot\tfrac23=\tfrac{\sqrt2}{3} — всё сходится.