Смотри: в системе две линии, и надо, чтобы вместе они дали ровно четыре общие точки. Начнём со второго уравнения — оно проще и задаёт всю картину.

Перенесём всё влево: x^2+y-xy-x=0. Сгруппируем: x(x-1)-y(x-1)=0, то есть (x-1)(x-y)=0. Значит, второе уравнение — это на самом деле две прямые: вертикаль x=1 и биссектриса y=x. Все решения системы обязаны лежать на них.

Теперь первое уравнение. Если a=0, оно превращается в 5x+1=0, то есть x=-\dfrac{1}{5} — одинокая вертикальная прямая, и точек выходит максимум пара, четырёх никак. Значит, a\ne 0, а тогда коэффициенты при x^2 и y^2 одинаковы (оба равны a) — перед нами окружность. Поделив на a и выделив полные квадраты, получаем центр \left(\dfrac{2a-5}{2a};\,-1\right) и R^2=\dfrac{8a^2-24a+25}{4a^2}. У трёхчлена 8a^2-24a+25 дискриминант отрицателен (576-800<0), поэтому R^2>0 при любом a\ne 0 — окружность всегда настоящая.

Выходит, задача чисто геометрическая: окружность должна пересечь пару прямых x=1 и y=x ровно в четырёх точках. Сами прямые встречаются в узле (1;\,1). Чтобы точек было ровно четыре, окружность должна резать каждую прямую по двум точкам и при этом не проходить через узел (1;\,1) — иначе две точки склеятся в одну и останется всего три.

Подставим x=1 в окружность: после упрощения y^2+2y-1+\dfrac{6}{a}=0. Два корня, когда дискриминант положителен: 2-\dfrac{6}{a}>0. Это выполняется при a<0 или a>3.

Подставим y=x: получаем 2x^2+\dfrac{5}{a}x+\dfrac{1}{a}=0 с дискриминантом \dfrac{25-8a}{a^2}; он положителен при a<\dfrac{25}{8}.

Проверим узел: подставив (1;\,1) в первое уравнение, получаем 2a+6=0, то есть окружность проходит через (1;\,1) ровно при a=-3 — это значение выбрасываем.

Собираем всё: условие (a&lt;0 или a&gt;3), условие a&lt;\dfrac{25}{8}, запрет a\ne-3 и a\ne 0. Для отрицательных a выходит (-\infty;\,-3)\cup(-3;\,0), для положительных — 3</p><p><b>Ответ:</b>a\in(-\infty;\,-3)\cup(-3;\,0)\cup\left(3;\,\dfrac{25}{8}\right)$.