Как называются числа, которые не являются рациональными?

Их называют иррациональными числами.
Это все действительные числа, которые нельзя представить в виде дроби $\frac{m}{n}$, где $m$ и $n$ — целые, а $n \ne 0$. Их десятичная запись бесконечна и непериодична (не заканчивается и не содержит повторяющегося блока цифр).

Примеры: $\sqrt{2}$, $\pi$, $e$, $\sqrt{3}$, $\ln 2$.
Иррациональные делят на два типа: алгебраические (например, $\sqrt{2}$ — корень целочисленного многочлена) и трансцендентные (например, $\pi$ и $e$ — не являются корнями ни одного ненулевого многочлена с целыми коэффициентами).

Вместе рациональные и иррациональные образуют множество действительных чисел.