Галилей в своем анализе ускорения говорил, что, взяв бесконечный ряд натуральных чисел — 1, 2, 3… и возведя их в квадрат, вы получаете ряд 1,4, 9… Теперь, каждому числу из второго ряда может быть поставлено в соответствие число из первого ряда, таким образом, два ряда будут иметь одно и то же число членов. Но во втором ряду часть чисел отсутствует, так что в нем должно быть меньше элементов, чем в первом. Или две бесконечности были одинаковыми, или могут существовать различные виды бесконечности.

Бернхард Больцано (1781–1848), священник, живший в Праге, разработал интересные идеи, которые, к сожалению, долгое время оставались не замеченными учеными. Он выполнял арифметизацию дифференциального и интегрального исчислений методами, очень похожими на те, которые применял Коши, который во время своего изгнания бывал в Праге и встречался с Больцано. В своей работе «Paradoxien des Unendlichen», изданной посмертно в 1850 году, Больцано показал, что парадоксы вроде того, что обнаружил Галилей, обычны не только среди натуральных, но и среди действительных чисел. Например, в одном линейном сегменте то же число действительных чисел, что и в линии вдвое большей длины, что кажется алогичным и трудным для понимания. Этот богемский философ, похоже, очень близко подошел к пониманию того, что бесконечность действительных чисел относится к совершенно иному типу, чем бесконечность натуральных чисел. Он также внес свой вклад во все возрастающий список патологических функций, которые нарушали привычные правила исчисления.

Эта двойная проблема со свойствами функций и чисел была не случайной. Если какая-нибудь функция могла быть выражена как бесконечный ряд, скажем ряд Фурье, то было важно проверить, что этот ряд сходится к функции при каждом значении х — так называемая поточечная сходимость. Поскольку проверять это для каждого ряда довольно утомительно, предлагались различные критерии сходимости, каждый из которых требовал очень четкого понимания идеи бесконечной последовательности чисел, сходящейся к определенному числу. Коши, с его эллинистическим отвращением к бесконечностям, соскользнул в закольцованное доказательство, в одном месте определяя иррациональное число как предел последовательности рациональных чисел, а в другом выводя рациональные числа из иррациональных. Карл Вейерштрасс попытался освободить зависимость иррациональных чисел от пределов и постарался определить их не как предел последовательности, но как саму последовательность.

Тем временем Бернхард Риман переформулировал понятие интеграла в то, что сегодня преподается в школе. Функция Дирихле, упомянутая выше, все еще не имела интеграла в определении Римана. Приняв участие в собирании диких функций, Риман нашел еще одну, свою собственную, прерывистую в бесконечном числе точек, однако для этой функции интеграл не только существует, но и определяет непрерывную функцию, которая, в свою очередь, однако, не в состоянии иметь производную для того же самого бесконечного числа точек. Фундаментальная теорема дифференциального и интегрального исчислений была еще раз подвергнута сомнению.

Становилось ясно, что необходимо более четкое понимание того, что же на самом деле представляет собой иррациональное число, и, следовательно, было необходимо более ясное определение действительного числа. К 1850-м годам уже знали, что действительные числа можно разделить на два типа двумя различными способами: на рациональные и иррациональные числа, а также на алгебраические и трансцендентные. Рациональные числа — это любые числа вида m/n, то есть любая положительная или отрицательная дробь, включая целые числа и ноль. Иррациональные числа — это числа, которые не являются рациональными, вроде √2 и π. Алгебраические числа — это те, которые служат решениями конечных полиномиальных уравнений с целочисленными коэффициентами, то есть все числа, включая числа типа √2, но не π. Трансцендентными были числа, которые не были алгебраическими. Мы видим, что иррациональные и трансцендентные числа просто определяются тем, чем они не являются, и было непонятно, есть ли у них хоть какие-то специфические собственные свойства. В 1872 году была опубликована ключевая работа по этой теме — труд Рихарда Дедекинда (1831–1916) и Георга Кантора (1845–1918). В том же году началась их долгая дружба. Оба занимали относительно небольшие должности — Дедекинд в Политехническом института своего родного города Брансвик, Кантор — в Университете Галле, — но их работа оказала огромное влияние на весь математический мир.

Если множество действительных чисел непрерывно, Дедекинд задался вопросом, в чем разница между рациональным и иррациональным числами. Лейбниц, например, считал, что «сплошность» точек на линии связана с их плотностью, то есть для любых двух точек всегда есть некая третья, расположенная между ними. Однако рациональные числа также имеют это свойство, но тем не менее они не непрерывны. Вместо того чтобы продолжать искать способы склеивать точки, чтобы сформировать континуум, Дедекинд встал на противоположную точку зрения и стремился определить непрерывность в терминах определения разрывов в линейном сегменте. Представьте себе числовую ось как бесконечно длинную твердую трубу, набитую упорядоченными рациональными числами. Разрыв разрежет трубу на две части, обозначим их А и В. Образуются два торца трубы, конечные точки А и В. Глядя на открытый торец, мы можем прочитать число. Если на торце не видно никакого числа, то мы сделали разрез на иррациональном числе. Дедекинд определил иррациональные числа в терминах этих множеств А и В, а не в виде последовательности. Таким образом, свойства непрерывности или пределов могли быть формализованы в терминах арифметики, а не в виде остаточных геометрических понятий. Бертран Рассел позже отметил, что каждое из множеств А и В определено через другое и поэтому логически необходимо только одно из них, так что иррациональное число можно определять только в терминах множества А (или В).

Возвращаясь к вопросу о бесконечности, Дедекинд увидел в парадоксах Больцано не аномалию, а определение. Он понял, что множество бесконечно, если оно подобно точному подмножеству самого себя, то есть если может быть установлено некое соответствие между подмножеством и множеством. Например, множество {2,4,6...} — подмножество {1,2,3…}, и между ними можно определить прямое соответствие. Спустя два года после выхода книги Дедекинда, в 1874 году, Георг Кантор женился, и в поездку на медовый месяц он повез жену в Интерлакен, где они встретились с Дедекиндом. В том же году Кантор издал одну из своих самых революционных статей. Он согласился с определением бесконечного множества Дедекинда, но при этом считал, что не все бесконечности равны между собой.

Кантор начал с того факта, что любое множество, для которого может быть установлено некоторое соответствие с рядом натуральных чисел, является исчисляемым. Это очевидно для конечных множеств, но Кантор расширил понятие исчисляемости до бесконечных множеств. Множество всех натуральных чисел — само по себе «счетная бесконечность», и любое бесконечное множество, для которого можно установить некое взаимно однозначное соответствие этому множеству, — также счетная бесконечность. Например, хотя кажется, что целые числа уходят в бесконечность как в положительном, так и в отрицательном направлении, они также являются счетной бесконечностью, поскольку их можно переупорядочить следующим образом: {0, +1, -1, +2, -2…}. Кроме того, так же как в конечных множествах существует величина, известная как количество элементов (по существу, размер множества), так и бесконечным множествам Кантор определил значение степени множества. Два бесконечных множества имеют одну и ту же степень, если можно определить между ними взаимно однозначное соответствие. Выше мы видели, что рациональные числа образуют плотное множество. Целые числа этого не делают, то есть не всегда есть третье целое число, расположенное между любыми двумя другими целыми числами, — например, нет никакого целого числа между 1 и 2. Поэтому казалось вероятным, что множество рациональных чисел будет иметь более высокую степень, чем множество целых чисел. Однако в 1873 году Кантор нашел, что это не так. При помощи хитроумного расположения рациональных чисел он нашел метод, при помощи которого они могли быть поставлены во взаимно однозначное соответствие со множеством натуральных чисел.