Как называется утверждение, которое нельзя доказать?

Короткий ответ: чаще всего такое называют аксиомой (или постулатом) — утверждением, которое принимают без доказательства внутри выбранной теории.

Но есть важные нюансы:

• Аксиома — не то, что «нельзя доказать вообще», а то, что считают исходной точкой рассуждений. Доказательства в теории опираются на аксиомы.

• В формальной логике говорят ещё о независимых (недоказуемых) утверждениях: это такие высказывания, которые нельзя ни доказать, ни опровергнуть из заданных аксиом. Классический пример — Гипотеза континуума относительно аксиом ZFC: она независима от них. Здесь «нельзя доказать» понимается именно в рамках данной системы аксиом.

• Гипотеза — это утверждение, которое пока не доказано и не опровергнуто, но не обязательно независимо: теоретически доказательство может существовать, просто мы его ещё не нашли.

Итого: если речь об утверждении, которое берут за основу — это аксиома; если о высказывании, которое принципиально недоказуемо (и не опровержимо) в пределах конкретной аксиоматической системы, — это независимое утверждение.