Можно решить этот пример графически
y=x²-8x+12  - это уравнение параболы, ветви направлены вверх, поэтому наименьшее значение функция будет достигать в вершине параболы.
x₀=-b/2a
x₀=-(-8)/2=4
y₀=4²-8*4+12=16-32+12=-4

Ответ -4