5sin2x-11(sinx+cosx)+7=0

Востользуемся, известным тождеством: 1 = sin(x)^2+cos(x)^2;

Получим:

5*(sin(x)^2+2sin(x)*cos(x)+cos(x)^2)-11(sin(x)+cos(x))+2=0

упрощаем

5*(sin(x)+cos(x))^2 - 11(sin(x)+cos(x))+2=0

подстановка
t=sin(x)+cos(x)

5*t^2-11*t+2=0

D=sqrt(121-4*5*2)=9
t1 = (11-9)/10 = -0.2
t2 = (11+9)/10= 2

имеем два уравнения
1) sin(x)+cos(x)= -0.2
2) sin(x)+cos(x)= 2
второе не имеет решений, т. к. sin и cos не могут одновременно быть равны 1.

решаем первое.
Это уже вроде несложно