Под логарифмами стоят 4-x и его квадрат, а основания 512 и 2 легко связать (512=2^{9}). Приведём к основанию 2 и вынесем общий логарифм. Знак строгий.

Заметим, что x^{2}-8x+16=(x-4)^{2}=(4-x)^{2}. Область определения: 4-x\gt 0, то есть x\lt 4.

Преобразуем: \log_{512}(4-x)=\dfrac19\log_2(4-x), а \log_2\big((4-x)^{2}\big)=2\log_2(4-x). Умножим неравенство на 9 и перенесём всё влево, вынося \log_2(4-x):

(x^{2}-18)\,\log_2(4-x)\gt 0.

Разберём знаки множителей на области x\lt 4. Логарифм \log_2(4-x): положителен при 4-x\gt 1, то есть x\lt 3; равен нулю при x=3; отрицателен при 3\lt x\lt 4. Скобка x^{2}-18: положительна при x\lt -3\sqrt2 (на нашей области), отрицательна при -3\sqrt2\lt x\lt 4.

Произведение положительно, когда множители одного знака. Оба положительны при x\lt -3\sqrt2; оба отрицательны при 3\lt x\lt 4. Концы выколоты (знак строгий). Итог: (-\infty;-3\sqrt2)\cup(3;4).