а) Смотри: в уравнении \cos 2x - \sqrt{2}\cos\left(\dfrac{3\pi}{2}+x\right) - 1 = 0 живут два разных аргумента — 2x и \dfrac{3\pi}{2}+x. План простой: приводим всё к одной функции одного аргумента. Сначала формула приведения: \cos\left(\dfrac{3\pi}{2}+x\right) = \sin x. Почему так? Угол \dfrac{3\pi}{2} меняет название функции (косинус становится синусом), а знак плюс, потому что при маленьком положительном x точка \dfrac{3\pi}{2}+x сидит в четвёртой четверти, где косинус положителен.

Уравнение превращается в \cos 2x - \sqrt{2}\sin x - 1 = 0. Теперь раскроем косинус двойного угла через синус: \cos 2x = 1 - 2\sin^2 x. Подставляем: 1 - 2\sin^2 x - \sqrt{2}\sin x - 1 = 0, единицы съедают друг друга: -2\sin^2 x - \sqrt{2}\sin x = 0. Умножим на -1 и вынесем общий множитель: \sin x\,(2\sin x + \sqrt{2}) = 0.

Произведение равно нулю, когда нулю равен хотя бы один множитель. Первый случай: \sin x = 0, отсюда x = \pi n. Второй: \sin x = -\dfrac{\sqrt{2}}{2}, отсюда две серии: x = -\dfrac{\pi}{4} + 2\pi n и x = -\dfrac{3\pi}{4} + 2\pi n, n \in \mathbb{Z}. Быстрая проверка для x = -\dfrac{\pi}{4}: \cos\left(-\dfrac{\pi}{2}\right) = 0, \sin\left(-\dfrac{\pi}{4}\right) = -\dfrac{\sqrt{2}}{2}, и 0 - \sqrt{2}\cdot\left(-\dfrac{\sqrt{2}}{2}\right) - 1 = 1 - 1 = 0 — всё сходится.

б) Отрезок \left[\dfrac{3\pi}{2};\, 3\pi\right] — это примерно [4{,}71;\, 9{,}42]. Пройдёмся по каждой серии и посмотрим, какие корни туда попадают.

Серия x = \pi n: при n = 2 получаем 2\pi \approx 6{,}28 — подходит; при n = 3 получаем 3\pi — это правый конец отрезка, он включён, берём. При n = 1 будет \pi \approx 3{,}14 — недолёт.

Серия x = -\dfrac{\pi}{4} + 2\pi n: при n = 1 получаем -\dfrac{\pi}{4} + 2\pi = \dfrac{7\pi}{4} \approx 5{,}50 — подходит; при n = 2 уже \dfrac{15\pi}{4} \approx 11{,}78 — перелёт.

Серия x = -\dfrac{3\pi}{4} + 2\pi n: при n = 1 это \dfrac{5\pi}{4} \approx 3{,}93 — не долетает, при n = 2 это \dfrac{13\pi}{4} \approx 10{,}21 — перелёт. Из этой серии ничего.

Итого на отрезке три корня: \dfrac{7\pi}{4}, 2\pi и 3\pi. Проверим граничный: \cos 6\pi - \sqrt{2}\cos\left(\dfrac{3\pi}{2}+3\pi\right) - 1 = 1 - \sqrt{2}\cdot 0 - 1 = 0 — всё сходится.