2cos^2x-3sinx cosx+sin^2x=0

Решим уравнение

1. Переход к одной тригонометрической функции

Чтобы исключить смешанный член, поделим обе части уравнения на $\cos^{2}x$ (это возможно, потому что при $\cos x=0$ решение не получится, см. пункт 3):

Обозначим $t=\tan x$. Получаем квадратное уравнение

2. Решение квадратного уравнения

Возвращаемся к переменной $x$:

• $t=\tan x=1 \;\Longrightarrow\; x=\dfrac{\pi}{4}+k\pi,\; k\in\mathbb Z;$

• $t=\tan x=2 \;\Longrightarrow\; x=\arctan 2 + k\pi,\; k\in\mathbb Z.$

Значение $\arctan 2$ приблизительно $1{,}1071487$ рад ($63^{\circ}26'$).

3. Проверка исключённых случаев

а) $\cos x=0$.
Тогда $x=\dfrac{\pi}{2}+k\pi$ и $\sin^{2}x=1$.
Подстановка в исходное выражение даёт $2\cdot0-0+1=1\neq0$; решения нет.

б) $\sin x=0$.
Тогда $x=k\pi$ и $\cos^{2}x=1$.
Подстановка даёт $2-0+0=2\neq0$; решения нет.

Таким образом, исключённые значения не дают корней.

Итоговый ответ

Это и есть полный набор решений исходного тригонометрического уравнения.