Пункт а. Заменим \sin^2 x=1-\cos^2 x и перенесём всё влево:

2\cos^3 x+\sqrt2(1-\cos^2 x)-2\cos x=0

Группировка по (\cos^2 x-1):

(\cos^2 x-1)(2\cos x-\sqrt2)=0

Выпишем все серии корней:

\cos x=1\;\Rightarrow\;x=2\pi n;\quad \cos x=-1\;\Rightarrow\;x=\pi+2\pi n,\ n\in\mathbb{Z}

\cos x=\tfrac{\sqrt2}{2}\;\Rightarrow\;x=\pm\frac{\pi}{4}+2\pi n,\ n\in\mathbb{Z}

Пункт б. Отберём корни, принадлежащие отрезку \left[\frac{5 \pi}{2};\,4 \pi\right]. Отметим на числовой окружности концы отрезка \left[\frac{5 \pi}{2};\,4 \pi\right], выделим соответствующую дугу и переберём в каждой серии целые значения параметра — оставим корни, попавшие на дугу.

Получаем корни, принадлежащие отрезку:

3 \pi, \frac{15 \pi}{4}, 4 \pi