Присмотрись к подкоренному выражению: это полный квадрат, его можно свернуть по формуле сокращённого умножения a^2 \pm 2ab + b^2 = (a \pm b)^2.

\sqrt{a^{2}+8ab+16b^{2}} = \sqrt{\left(a + 4 b\right)^{2}}

Квадратный корень из квадрата — это модуль выражения: \sqrt{t^2} = |t|. Модуль нужен, потому что корень не может быть отрицательным.

Подставим a = 3, b = -4 в выражение под модулем.

\left|a + 4 b\right| = \left|-13\right| = 13

Выражение под модулем получилось отрицательным (-13), поэтому модуль меняет знак: ответ 13.