Два протона удерживаются в ядре атома гелия за счёт чего?

Коротко: за счёт сильного ядерного взаимодействия (остаточной сильной силы) между нуклонами.

Чуть подробнее. На расстояниях порядка фемтометра (~10⁻¹⁵ м) между протонами и нейтронами действует мощное притяжение — это проявление квантовой хромодинамики: кварки внутри нуклонов связаны глюонами, а между самими нуклонами возникает «остаточная» сильная сила, которую удобно описывать как обмен мезонами (прежде всего пионами). Эта сила:

• очень сильная на малых расстояниях и превосходит кулоновское отталкивание протонов;
• короткодействующая — быстро спадает за пределами ~1–2 фемтометров;
• имеет «жёсткое ядро» на совсем малых расстояниях (становится отталкивающей), чтобы нуклоны не схлопывались.

В ядре гелия-4 (альфа-частице) два протона удерживаются именно этой силой, причём ключевую роль играют два нейтрона: они сами не несут заряда, поэтому не добавляют электростатического отталкивания, но вносят дополнительное сильное притяжение. Вдобавок работает квантовая «спарка» по спину и изоспину — нуклоны образуют энергетически выгодные пары, из-за чего альфа-частица получается исключительно прочной (суммарная энергия связи ≈28,3 МэВ).

Хороший ориентир: два протона «в вакууме» (без нейтронов) устойчивого связанного состояния не образуют — чистый дипротон распадается. А вот в гелии их «склеивает» остаточная сильная сила при участии нейтронов, которая на этих расстояниях побеждает кулоновское отталкивание.