Вычислить cos(α+β), если cosα = 5/13 и 3π/2 < α < 2π, а cosβ = 12/13 и π < β < 3π/2.

В условии есть противоречие, поэтому в строгом смысле задача не имеет решения.

Дано:

Это возможно: угол $\alpha$ находится в IV четверти, где косинус положительный, а синус отрицательный.

Тогда:

Но для $\beta$ дано:

Промежуток

соответствует III четверти. В III четверти косинус всегда отрицательный. Следовательно,

А в условии сказано:

Это невозможно.

Значит, не существует такого угла $\beta$, который одновременно удовлетворяет условиям

и

Поэтому значение

по данному условию вычислить нельзя: условие противоречиво.