Сначала разложим скобку на множители: xy^2-2xy-6y+12=(y-2)(xy-6) (проверьте раскрытием). Система превращается в (y-2)(xy-6)\sqrt{6-x}=0 с y=ax. Цель — ровно ТРИ различных решения. ОДЗ: x\le6.

Произведение зануляется тремя способами. (1) Корень: \sqrt{6-x}=0, то есть x=6 — точка (6,6a), она всегда решение. (2) y=2: с y=ax это x=\dfrac2a (при x\le6). (3) xy=6: с y=ax это ax^2=6, то есть x=\pm\sqrt{6/a} (нужно a\gt 0 и x\le6).

Считаем различные точки. Точка x=6 есть всегда. Дальше всё зависит от a: при разных a корни \dfrac2a и \pm\sqrt{6/a} то попадают в зону x\le6, то нет, то совпадают между собой или с x=6.

Например, при \dfrac16\lt a\le\dfrac13: оба корня \pm\sqrt{6/a} помещаются (\sqrt{6/a}\le6 при a\ge\tfrac16), а корень \dfrac2a\gt 6 выпадает — получаем точки 6,\ \sqrt{6/a},\ -\sqrt{6/a}, ровно три.

Отдельная точка a=\dfrac23: там \dfrac2a=3 совпадает с \sqrt{6/a}=3, и остаются три различные точки 6,\ 3,\ -3.

Перебрав все случаи, получаем ответ \left(\dfrac16;\dfrac13\right]\cup\left\{\dfrac23\right\}. (Примечание: исходно у этой задачи в банке стояло «ровно два», но её ответ соответствует именно «ровно три» — по согласованию формулировка приведена к «три».)