Второе уравнение x^2=y^2 — это две прямые-биссектрисы y=x и y=-x, пересекающиеся в начале координат. Первое — окружность; выделим у неё квадраты.

x^2-4(a+1)x+y^2-2ay+5a^2+8a+3=0. Центр \left(2(a+1);\,a\right), а радиус: R^2=4(a+1)^2+a^2-(5a^2+8a+3)=4a^2+8a+4+a^2-5a^2-8a-3=1. Красиво: радиус всегда равен 1, а центр гуляет в точке \left(2(a+1);\,a\right) при изменении a.

Четыре точки — это когда окружность радиуса 1 режет каждую биссектрису по две точки и не проходит через их узел (0;\,0).

Расстояние от центра до прямой y=x (то есть x-y=0): d_1=\dfrac{|2(a+1)-a|}{\sqrt{2}}=\dfrac{|a+2|}{\sqrt{2}}. Две точки при d_1&lt;1: |a+2|&lt;\sqrt{2}, то есть -2-\sqrt{2}</p><p>Расстояние до прямойy=-x(то естьx+y=0):d_2=\dfrac{|2(a+1)+a|}{\sqrt{2}}=\dfrac{|3a+2|}{\sqrt{2}}. Две точки приd_2<1:|3a+2|<\sqrt{2}, то есть\dfrac{-2-\sqrt{2}}{3}

Узел (0;\,0): подставив его в первое уравнение, получаем 5a^2+8a+3=0, корни a=-1 и a=-\dfrac{3}{5}. При этих a окружность проходит через начало координат, одна точка теряется — их выбрасываем.

Пересечём два интервала. Более узким снизу оказывается \dfrac{-2-\sqrt{2}}{3}\approx-1{,}14, сверху — -2+\sqrt{2}\approx-0{,}59. Значит, общая часть — это \left(\dfrac{-2-\sqrt{2}}{3};\,-2+\sqrt{2}\right). Оба «плохих» значения -1 и -\dfrac{3}{5}=-0{,}6 лежат внутри, поэтому промежуток разрывается на три куска. Проверка при a=-0{,}8: оба расстояния меньше 1, узел свободен — четыре точки, всё сходится.

Ответ: a\in\left(\dfrac{-2-\sqrt{2}}{3};\,-1\right)\cup\left(-1;\,-\dfrac{3}{5}\right)\cup\left(-\dfrac{3}{5};\,-2+\sqrt{2}\right).