Когда в русском языке пишется мягкий знак в суффиксах -ться и -тся?

В суффиксах -ться и -тся мягкий знак пишется не “по правилу про мягкость”, а по форме глагола. Это одно и то же сочетание -т + ся, просто в разных грамматических формах.

1) Пишем -ться (с мягким знаком), если это инфинитив (начальная форма)

То есть глагол отвечает на вопрос:

• что делать?

• что сделать?

Примеры:

• учиться (что делать?)

• стараться (что делать?)

• вернуться (что сделать?)

• собраться (что сделать?)

Проверка очень простая: если можно заменить на инфинитив без “ся”, то мягкий знак сохраняется:

• учиться → учить (инфинитив)

• вернуться → вернуть (инфинитив)

2) Пишем -тся (без мягкого знака), если это личная форма глагола

То есть глагол отвечает на вопрос:

• что делает? (3-е лицо ед. числа)

• что делают? (3-е лицо мн. числа)

• реже: что сделает? / что сделают?

Примеры:

• он учится (что делает?)

• она старается (что делает?)

• они вернутся (что сделают?)

• дождь начинается (что делает?)

Логика такая: в личной форме на конце -т, а мягкий знак перед -т не нужен:

• (он) учит → учится

• (она) старает → старается

3) Самый надежный способ: задать вопрос к глаголу

• Если вопрос что делать? / что сделать? → -ться

• Если вопрос что делает? / что сделает? / что делают? / что сделают? → -тся

Сравните пары, чтобы не путаться:

• Нужно учиться**. (что делать?) — но: Он учится**. (что делает?)

• Пора собраться**. (что сделать?) — но: Он соберется**. (что сделает?)

• Хочу остаться**. (что сделать?) — но: Он останется** / останется**? (что сделает?) — здесь уже другая форма, но принцип тот же: в личной форме мягкого знака перед -т нет.

4) Типичные подсказки в предложении

Часто инфинитив (-ться) стоит после слов:

• надо, нужно, можно, нельзя, пора, хочется, стоит, хочется, решил, хочу, буду, собираюсь
  Примеры:

• Нужно постараться.

• Хочу научиться.

• Пора собраться.

А личная форма (-тся) обычно имеет подлежащее (он/она/оно/они или существительное):

• Ребёнок смеётся.

• Команда готовится.

• Всё получится.

Итог в одной строке: -ться — инфинитив (что делать/сделать), -тся — личная форма (что делает/сделает).