При каком значении параметра a сумма квадратов уравнения x^2+(2-a)x-a-3=0 наименьшая?

По т.Виета:
{x₁ * x₂ = -a-3
{x₁ + x₂ = -(2-a)

(x₁+x₂)² = (a-2)²
x₁²+2x₁*x₂+x₂²=a²-4a+4
x₁²+x₂² +2*(-a-3)=a²-4a+4
x₁²+x₂²=a²-4a+4+2a+6
x₁²+x₂²=a²-2a+10

f(a)=a² -2a+10 - это парабола, ветви которой направлены вверх.
Наименьшее значение функции f(a) - это вершина параболы.
Найдем абсциссу вершины параболы:
a= -(-2)/2=1
При а=1  сумма x₁²+x₂²  будет наименьшей.
Ответ: 1.