а) Двойной угол мешает — раскроем его так, чтобы подружиться с \sin^2 x справа: \cos 2x=1-2\sin^2 x. Тогда слева \cos x\,(1-2\sin^2 x)=\cos x-2\sin^2 x\cos x.

Уравнение: \cos x-2\sin^2 x\cos x=\sqrt{2}\sin^2 x+\cos x. Слагаемое \cos x есть с обеих сторон — сокращаем его переносом: -2\sin^2 x\cos x-\sqrt{2}\sin^2 x=0.

Выносим -\sin^2 x: \sin^2 x\,(2\cos x+\sqrt{2})=0.

Первый случай: \sin x=0, то есть x=\pi k, k\in\mathbb{Z}.

Второй случай: \cos x=-\dfrac{\sqrt{2}}{2}, откуда x=\dfrac{3\pi}{4}+2\pi k и x=-\dfrac{3\pi}{4}+2\pi k, k\in\mathbb{Z}.

Проверим x=\dfrac{3\pi}{4}: \cos\dfrac{3\pi}{4}=-\dfrac{\sqrt{2}}{2}, \cos\dfrac{3\pi}{2}=0, слева 0; справа \sqrt{2}\cdot\dfrac{1}{2}-\dfrac{\sqrt{2}}{2}=0 — всё сходится.

б) Отбираем корни на отрезке \left[-\dfrac{5\pi}{2};\ -\pi\right]. В четвертях: -\dfrac{5\pi}{2}=-\dfrac{10\pi}{4}, -\pi=-\dfrac{4\pi}{4}.

Серия x=\pi k: подходят -2\pi=-\dfrac{8\pi}{4} и -\pi=-\dfrac{4\pi}{4} — правый конец включён. Кандидат -3\pi=-\dfrac{12\pi}{4} левее -\dfrac{10\pi}{4}, мимо.

Серия x=\dfrac{3\pi}{4}+2\pi k: при k=-1 получаем -\dfrac{5\pi}{4}, и -\dfrac{10\pi}{4}\leqslant-\dfrac{5\pi}{4}\leqslant-\dfrac{4\pi}{4} — подходит. При k=-2 будет -\dfrac{13\pi}{4} — вылет влево.

Серия x=-\dfrac{3\pi}{4}+2\pi k: при k=0 корень -\dfrac{3\pi}{4} правее -\pi, мимо; при k=-1 получаем -\dfrac{11\pi}{4} — левее -\dfrac{10\pi}{4}, тоже мимо. Пусто.

Итого три корня: -2\pi, -\dfrac{5\pi}{4}, -\pi. Проверка для -\dfrac{5\pi}{4}: \cos\left(-\dfrac{5\pi}{4}\right)=\cos\dfrac{5\pi}{4}=-\dfrac{\sqrt{2}}{2} — корень честный. Всё сходится.