Как называется множество точек на плоскости, равноудалённых от точки O?

Это — окружность.

По определению, окружность — это множество всех точек плоскости, которые находятся на одном и том же расстоянии $R$ (радиусе) от заданной точки $O$ (центра). В координатах, если $O=(x_0,y_0)$, то уравнение такой окружности:

Важно не путать с кругом: круг включает точки внутри и на границе, а окружность — только границу (то самое множество равноудалённых точек). Единственный «краевой» случай — при $R=0$ множество вырождается в саму точку $O$.