Введём координаты. Основание — равнобедренный треугольник с AB=BC=6 и AC=8. Положим A=(0;0;0), C=(8;0;0), тогда вершина B над серединой AC: из AB=6 имеем 4^2+y^2=36, y^2=20, y=2\sqrt5, поэтому B=(4;2\sqrt5;0). Боковое ребро 3: A_1=(0;0;3), B_1=(4;2\sqrt5;3).

Найдём отмеченные точки: K — середина A_1B_1, то есть K=(2;\sqrt5;3); M делит AC как AM:MC=1:3, значит AM=2 и M=(2;0;0).

Пункт а. Проверим перпендикулярность через скалярное произведение. \overrightarrow{KM}=M-K=(0;-\sqrt5;-3), \overrightarrow{AC}=(8;0;0).

Их произведение \overrightarrow{KM}\cdot\overrightarrow{AC}=0\cdot8+(-\sqrt5)\cdot0+(-3)\cdot0=0. Раз произведение нулевое, то KM\perp AC, что и требовалось доказать.

Пункт б. Угол между прямой и плоскостью находят так: \sin этого угла равен \dfrac{|\overrightarrow{KM}\cdot\vec n|}{|\overrightarrow{KM}|\,|\vec n|}, где \vec n — нормаль плоскости ABB_1.

Нормаль \vec n=\overrightarrow{AB}\times\overrightarrow{AB_1}, где \overrightarrow{AB}=(4;2\sqrt5;0), \overrightarrow{AB_1}=(4;2\sqrt5;3). Векторное произведение равно (6\sqrt5;-12;0); сократим на 6 и возьмём \vec n=(\sqrt5;-2;0), длина \sqrt{5+4+0}=3.

Считаем \overrightarrow{KM}\cdot\vec n=0\cdot\sqrt5+(-\sqrt5)\cdot(-2)+(-3)\cdot0=2\sqrt5, а |\overrightarrow{KM}|=\sqrt{0+5+9}=\sqrt{14}.

Тогда \sin\varphi=\dfrac{2\sqrt5}{\sqrt{14}\cdot3}=\dfrac{2\sqrt5}{3\sqrt{14}}=\dfrac{2\sqrt5\cdot\sqrt{14}}{3\cdot14}=\dfrac{2\sqrt{70}}{42}=\dfrac{\sqrt{70}}{21}. Значит искомый угол равен \operatorname{arcsin}\dfrac{\sqrt{70}}{21}.