Равенство двух корней \sqrt{P}=\sqrt{Q} возможно лишь когда P=Q и обе части неотрицательны. Цель — ровно один корень на [0;1].

Приравниваем подкоренные:

x^2-a^2=3x^2-(3a+1)x+a\ \Rightarrow\ 2x^2-(3a+1)x+(a^2+a)=0.

Это квадратное уравнение. Его дискриминант (3a+1)^2-8(a^2+a)=a^2-2a+1=(a-1)^2 — полный квадрат, поэтому корни хорошие:

x=\dfrac{(3a+1)\pm|a-1|}{4}.

Каждый корень оставляем, только если он на отрезке [0;1] И обе подкоренные неотрицательны (x^2-a^2\ge0 и второй трёхчлен \ge0).

Перебирая значения параметра, видим: ровно один корень на отрезке получается при a\in\left[-\dfrac13;0\right), а также в отдельной точке a=1 (там дискриминант равен нулю, оба корня сливаются в x=1).

Ответ: \left[-\dfrac13;0\right)\cup\{1\}.