Действуем как в классике этого типа: числитель сворачиваем группировкой, знаменатель — в полный квадрат.

Числитель: 8x^3-4x^2-2x+1=4x^2(2x-1)-(2x-1)=(2x-1)\left(4x^2-1\right)=(2x-1)^2(2x+1).

Знаменатель: пусть u=4^{x^2}, тогда 16^{x^2}=u^2, и внизу u^2-4u+4=(u-2)^2=\left(4^{x^2}-2\right)^2. Найдём его нули: 4^{x^2}=2, то есть 2^{2x^2}=2^1, откуда x^2=\dfrac{1}{2} и x=\pm\dfrac{\sqrt{2}}{2}\approx\pm 0{,}71.

При остальных x знаменатель строго положителен, так что знак дроби задаёт числитель: нужно (2x-1)^2(2x+1)\le 0. Квадрат (2x-1)^2 всегда неотрицателен, поэтому отрицательным произведение бывает только за счёт скобки 2x+1, а нулевым — когда x=\dfrac{1}{2} (обнуляется квадрат) или x=-\dfrac{1}{2}. Итого по числителю: луч x\le-\dfrac{1}{2} и изолированная точка x=\dfrac{1}{2}.

Выкалываем нули знаменателя. Точка -\dfrac{\sqrt{2}}{2}\approx -0{,}71 попадает внутрь луча x\le-\dfrac{1}{2} — выкалываем её, луч распадается на два куска. Точка \dfrac{\sqrt{2}}{2}\approx 0{,}71 — это не \dfrac{1}{2}, так что наша изолированная точка выживает.

Проверка. x=\dfrac{1}{2}: числитель \left(2\cdot\dfrac{1}{2}-1\right)^2\left(2\cdot\dfrac{1}{2}+1\right)=0, знаменатель \left(4^{1/4}-2\right)^2=\left(\sqrt{2}-2\right)^2\ne 0 — дробь равна нулю, годится. x=-1: числитель (-3)^2\cdot(-1)=-9<0, знаменатель (4-2)^2=4>0 — годится. x=0: числитель 1\cdot 1=1>0 — не годится, и в ответе нуля нет. Всё сходится.

Ответ: \left(-\infty;-\dfrac{\sqrt{2}}{2}\right)\cup\left(-\dfrac{\sqrt{2}}{2};-\dfrac{1}{2}\right]\cup\left\{\dfrac{1}{2}\right\}.