Доказать тождество 3cos 2α-sin^2α-cos^2α=2cos 2α

Это не тождество (истинное при любых $\alpha$). Посмотрим:

Правая часть равенства — $2\cos 2\alpha$. Перенесём всё в одну сторону:

Равенство выполняется тогда и только тогда, когда $\cos 2\alpha-1=0$, то есть $\cos 2\alpha=1\Rightarrow 2\alpha=2\pi k\Rightarrow \alpha=\pi k$, $k\in\mathbb{Z}$.

Следовательно, данное равенство верно только для $\alpha=\pi k$ и не является тождеством.