Коли речь идет о двух корнях, то дискриминант должен быть gt;=0.
D= (2a)^2-4(2a^2+4a+3)=4a^2-8a^2-16a-12=-4a^2-16a-12 | :4
-a^2-4a-3gt;=0
a^2+4a+3lt;=0
a^2+4a+3=0
D=4^2-4*1*3=4
a1=(-4-2)/2=-3
a2=(-4+2)/2=-1
-3lt;=alt;=-1
Воспользуемся теоремой Виетта:
x1+x2=-b/a=-2a
x1*x2=c/a=2a^2+4a+3
x1^2+x2^2=(x1+x2)^2-2x1x2=(-2a)^2-2(2a^2+4a+3)=4a^2-4a^2-8a-6=
=-8a-6.
Наибольшее значение это выражение примет при наименьшем значении "a", т.е. при а=-3.
Проверим:
1)a=-3
-8*(-3)-6=18
2)a=-2
-8*(-2)-6=10
3)a=-1
(-8)*(-1)-6=2
Ответ: 18