Возведём скобку в квадрат по формуле сокращённого умножения: (a + b)^2 = a^2 + 2ab + b^2.

(\sqrt{11} + 3)^2 = (\sqrt{11})^2 + 2 \cdot 3 \cdot \sqrt{11} + 3^2 = 11 + 6\sqrt{11} + 9

Подставим раскрытый квадрат в исходное выражение.

(\sqrt{11} + 3)^2 - 6\sqrt{11} = 11 + 9 + 6\sqrt{11} - 6\sqrt{11}

Слагаемые с корнем взаимно уничтожаются: +6\sqrt{11} и -6\sqrt{11} в сумме дают ноль — корень исчезает.

11 + 9 = 20

Остаётся сумма целых чисел, она равна 20.