Как безупречный логик, Фреге тут же понял намек Рассела – тем более что уже был готов к неприятностям. В целом его подход подразумевал, хотя и без доказательств, что любое описываемое свойство определяет значимое множество, состоящее из объектов, что обладают упомянутым свойством. Но здесь подразумевалось именно свойство, а не элемент множества как таковой, который явно не соответствовал множеству.

Мрачный Фреге был вынужден выпустить приложение к своему грандиозному опусу, в котором обсуждал возражения Рассела. Он нашел кратковременное решение: исключить из царства множеств те из них, которые являются элементами самих себя. Но даже ему самому это предложение не показалось достойным.

Рассел же попытался заполнить пробел Фреге в построении натуральных чисел с помощью множеств. Его идея состояла в ограничении того типа свойств, которые могут быть использованы для определения множества. Конечно, ему нужно было найти доказательство, что этот ограниченный тип свойств не приведет к парадоксу. В сотрудничестве с Альфредом Нортом Уайтхедом он пришел к сложной и искусственной теории типов, казавшейся достаточно объективной по крайней мере им самим. Они изложили свой подход в увесистом трехтомнике «Принципы математики», выпущенном в 1910–1913 гг. Определение числа два попало в конец первого тома, а теорема 1 + 1 = 2 доказана на с. 86 второго тома. Но и «Принципам математики» не суждено было положить конец фундаментальным спорам. Теория типов сама по себе была спорной. Математики желали получить что-то более простое и изящное.

Эти исследования фундаментальной роли счета как основы для чисел привели к одному из самых нашумевших открытий в математической науке – теории Кантора о трансфинитных числах – разных размерах бесконечности.

Бесконечность, в самых разных ипостасях, неизбежна в математике. Здесь нет самого большого натурального числа – потому что с добавлением единицы мы всегда получаем число еще большее, – а значит, существует бесконечно много натуральных чисел. Геометрия Евклида работает на бесконечной плоскости, и он доказал, что существует бесконечное множество простых чисел. В преддверии исчисления несколько человек, в том числе и Архимед, сочли полезным рассмотреть площадь и объем как сумму бесконечно многих и бесконечно тонких слоев. Когда исчисление изобрели, картина была примерно такой же: применялись эвристические методы для вычисления площадей и объемов, даже если имеющиеся доказательства говорили об ином.

Эти проявления бесконечности можно перефразировать в конечных терминах, чтобы избежать философских споров. Например, вместо того чтобы говорить «натуральных чисел бесконечно много», мы можем сказать «не существует самого большого натурального числа». Второе утверждение логически эквивалентно первому, при этом в нем нет явного упоминания бесконечности. По сути здесь бесконечность рассматривается как процесс, который можно продолжить без всяких конкретных ограничений, но фактически не завершенный. Такую бесконечность философы называют потенциальной. В противовес этому явное использование бесконечности как математического объекта само по себе оказывается актуальной бесконечностью.

Предшественники Кантора обратили внимание на то, что актуальные бесконечности обладают парадоксальными чертами. В 1632 г. Галилей написал свой «Диалог о двух системах мира», в котором два персонажа, проницательный Сальвиати и смышленый мирянин Сагредо, обсуждают причину приливов с геоцентрической и гелиоцентрической точек зрения. По требованию церкви все упоминания о приливах были вычеркнуты, и книга превратилась в гипотетическое словесное упражнение, содержащее мощные доводы в пользу гелиоцентрической теории Коперника. Персонажи между делом обсуждали и некоторые парадоксы, связанные с бесконечностью. Сагредо вопрошал: «Может ли быть чисел больше, чем квадратов?» – и указывал, что, коль большинство целых чисел не являются полными квадратами, ответ должен быть «да». Сальвиати отвечал, что всякое число можно однозначно сопоставить с его квадратом:

Таким образом число целых чисел должно быть таким же, как и число квадратов, и, значит, ответ «нет».

Кантор преодолел эти препятствия, указав, что в диалоге персонажей слово «больше» используется с двумя разными смыслами. Сагредо указывает, что множество всех квадратов является собственным подмножеством множества всех целых чисел. Позиция Сальвиати не столь однозначна: он возражает, что существует однозначное соответствие между множеством квадратов и множеством всех целых чисел. Это два разных утверждения, и оба могут быть верны – без каких-либо выводов.

Так Кантор пришел к изобретению арифметики бесконечности, которая объясняла предыдущие парадоксы и в то же время предлагала новые. Эта работа стала частью более обширной программы, теории множеств, Mengenlehre (от нем. Menge – множество или скопление). Кантор стал размышлять о множествах из-за некоторых сложных вопросов Фурье-анализа, так что его идеи уходят корнями в широко признанные математические теории. Однако полученные им ответы оказались столь странными, что многие из математиков того времени предпочти их проигнорировать. В то же время другие ученые сразу оценили их важность, особенно Давид Гильберт, утверждавший, что «никто не сможет изгнать нас из рая, созданного Кантором».

Отправной точкой для Кантора стала наивная концепция множества как совокупности объектов, или его элементов. Один из способов описать множество – перечисление его членов с использованием фигурных скобок. Например, множество всех натуральных чисел от 1 до 6 будет описано так:

В другом варианте множество может быть описано с помощью правила для его элементов: