Вынесем общий множитель 5\sqrt{2} за скобки, тогда внутри останется разность квадратов косинуса и синуса одного угла: 5\sqrt{2}\left(\cos^2\dfrac{7\pi}{8}-\sin^2\dfrac{7\pi}{8}\right).

Разность \cos^2 x-\sin^2 x — это в точности косинус двойного угла \cos 2x. Удваиваем угол \dfrac{7\pi}{8} и получаем 5\sqrt{2}\cos\dfrac{7\pi}{4}.

Угол \dfrac{7\pi}{4} лежит в четвёртой четверти, где косинус положительный; до полного оборота ему не хватает \dfrac{\pi}{4}, поэтому \cos\dfrac{7\pi}{4}=\cos\dfrac{\pi}{4}=\dfrac{\sqrt{2}}{2}.

Осталось перемножить: 5\sqrt{2}\cdot\dfrac{\sqrt{2}}{2}=\dfrac{5\cdot 2}{2}=5.