Первое уравнение (x+ay-5)(x+ay-5a)=0 — произведение двух скобок, значит это ПАРА параллельных прямых: x+ay=5 и x+ay=5a. Второе — окружность x^2+y^2=16 радиуса 4 с центром в начале. Цель — ровно четыре решения.

Прямая пересекает окружность в двух точках, если расстояние от центра до прямой меньше радиуса. Чтобы решений было ЧЕТЫРЕ, нужно, чтобы КАЖДАЯ из двух прямых дала по две точки (и точки не совпадали).

Расстояние от центра O до первой прямой равно \dfrac{5}{\sqrt{1+a^2}}, до второй — \dfrac{5|a|}{\sqrt{1+a^2}}. Требуем оба меньше 4:

\dfrac{5}{\sqrt{1+a^2}}\lt 4\quad\text{и}\quad\dfrac{5|a|}{\sqrt{1+a^2}}\lt 4.

Решая каждое неравенство и исключая случай совпадения прямых (a=1, когда 5=5a), получаем ответ.

Ответ: \left(-\dfrac43;-\dfrac34\right)\cup\left(\dfrac34;1\right)\cup\left(1;\dfrac43\right).