Введём координаты: A=(0;0;0), B=(6;0;0), C=(3;3\sqrt3;0), центр основания G=(3;\sqrt3;0). Вершина S над G; из SA=\sqrt{21} и GA^2=12 высота SG=\sqrt{21-12}=3, то есть S=(3;\sqrt3;3).

Точки: M на AB с AM=4, то есть M=(4;0;0); K на SB с SK:KB=1:3, поэтому K=S+\tfrac14(B-S)=\left(\tfrac{15}4;\tfrac{3\sqrt3}4;\tfrac94\right).

Пункт а. Плоскость CKM перпендикулярна основанию тогда и только тогда, когда её нормаль горизонтальна (лежит в плоскости основания), то есть z-координата нормали равна нулю.

Нормаль \vec n=\overrightarrow{CM}\times\overrightarrow{CK}. Нам важна только её z-координата: n_z=(CM)_x(CK)_y-(CM)_y(CK)_x, где \overrightarrow{CM}=(1;-3\sqrt3;0), \overrightarrow{CK}=\left(\tfrac34;-\tfrac{9\sqrt3}4;\tfrac94\right).

Считаем: n_z=1\cdot\left(-\tfrac{9\sqrt3}4\right)-(-3\sqrt3)\cdot\tfrac34=-\tfrac{9\sqrt3}4+\tfrac{9\sqrt3}4=0. Нормаль горизонтальна, значит плоскость CKM вертикальна, то есть перпендикулярна основанию ABC, что и требовалось доказать.

Пункт б. Объём тетраэдра BCKM найдём через смешанное произведение трёх рёбер из вершины B: V=\dfrac16\left|(\overrightarrow{BC}\times\overrightarrow{BM})\cdot\overrightarrow{BK}\right|.

Здесь \overrightarrow{BC}=(-3;3\sqrt3;0), \overrightarrow{BM}=(-2;0;0), \overrightarrow{BK}=\left(-\tfrac94;\tfrac{3\sqrt3}4;\tfrac94\right).

Сначала \overrightarrow{BC}\times\overrightarrow{BM}=(0;0;6\sqrt3) (получается только вертикальная составляющая). Тогда скалярно с \overrightarrow{BK}: (0;0;6\sqrt3)\cdot\left(-\tfrac94;\tfrac{3\sqrt3}4;\tfrac94\right)=6\sqrt3\cdot\tfrac94=\dfrac{27\sqrt3}{2}.

Значит V=\dfrac16\cdot\dfrac{27\sqrt3}{2}=\dfrac{27\sqrt3}{12}=\dfrac{9\sqrt3}{4}.