Пауль Коэн, двадцатидевятилетний математик из Стэнфордского университета, разработал метод, позволяющий проверять разрешимость того или иного вопроса. Метод Коэна работает в некоторых весьма специальных случаях, но тем не менее Коэн был первым, кому удалось обнаружить конкретные неразрешимые вопросы. Совершив это открытие, Коэн немедленно вылетел в Принстон. Он хотел, чтобы правильность его работы проверил сам Гёдель. К тому времени Гёдель был тяжело болен (диагноз медиков гласил: паранойя). Он лишь слегка приоткрыл дверь, вырвал из рук Коэна бумаги и захлопнул дверь. Через два дня Коэн получил приглашение в дом Гёделя на чай — знак того, что маэстро скрепил доказательство печатью своего авторитета. Особый драматизм ситуации придало то обстоятельство, что некоторые из неразрешимых вопросов занимают в математике центральное место. По иронии судьбы, Коэн доказал неразрешимость одной из двадцати трех проблем Гильберта — гипотезы континуума.

Работа Гёделя, дополненная неразрешимыми проблемами Коэна, стала тревожным посланием всем математикам, профессионалам и любителям, которые продолжали свои попытки доказать Великую теорему Ферма. А что, если Великая теорема Ферма неразрешима?! А вдруг Пьер де Ферма заблуждался, когда утверждал, что располагает доказательством? Если так, то доказательство Великой теоремы Ферма может оказаться не просто трудным, а невозможным. Если Великая теорема Ферма неразрешима, то математики столетиями пытались найти доказательство, которое не существует.

Интересно заметить, что если бы Великая теорема Ферма оказалась неразрешимой, то отсюда следовало бы, что она истинна. Причина заключается в следующем. Великая теорема Ферма утверждает, что уравнение

xn + yn = zn

при n, бóльших 2, не имеет решений в целых числах. Если бы Великая теорема Ферма оказалась ложной, то доказать ее было бы можно, предъявив решение (контрпример). Это означало бы, что Великая теорема Ферма разрешима. Итак, если бы теорема была ложной, то это противоречило бы ее неразрешимости. Но если бы Великая теорема Ферма была истинной, то столь определенный способ ее доказательства не обязательно существовал бы, т. е. она могла бы быть неразрешимой. Следовательно, может оказаться, что Великая теорема Ферма истинна, но не существует способа доказать ее.

Заметка на полях «Арифметики» Диофанта, сделанная рукой Пьера де Ферма, породила одну из самых трудных головоломок в истории математики. Несмотря на триста лет блистательных провалов и предположение Гёделя о том, что возможно, охота идет за несуществующим доказательством, проблема Ферма по-прежнему неудержимо привлекала некоторых математиков. Великая теорема Ферма была математической сиреной, манившей гениев только для того, чтобы вдребезги разбить их надежды. Всякий математик, решивший заняться Великой теоремой Ферма, рисковал напрасно потратить свои наиболее активные годы. Но тот, кому удалось бы совершить решающий прорыв, вошел бы в историю, как человек, нашедший решение самой трудной задачи в мире.

Великая теорема Ферма захватила помыслы поколений математиков по двум причинам. Во-первых, ими двигало неудержимое желание продемонстрировать свое превосходство. Великая теорема Ферма была неоспоримым критерием, и всякий, кто сумел бы ее доказать, добился бы успеха там, где потерпели неудачу Коши, Эйлер, Куммер и многие другие математики. Подобно тому, как сам Ферма получал величайшее удовольствие от решения задач, ставивших в тупик его современников, тот, кому удалось бы найти доказательство Великой теоремы Ферма мог бы порадоваться тому, что сумел решить проблему, которая несколько веков возвышалась неприступной крепостью перед математическим сообществом. Во-вторых, каждый, кому удалось бы ответить на вызов Ферма, мог бы испытать чувство неслыханного удовлетворения от того, что сумел решить труднейшую головоломку. Восторг, получаемый от решения сложнейшей проблемы теории чисел, доступной только пониманию посвященных, мало чем отличается от простой радости от решения тривиальных головоломок Сэма Лойда. Один математик как-то поведал мне, что удовольствие, получаемое им от решения математических проблем, имеет много общего с удовольствием, получаемым от решения кроссвордов. Заполнение последних пустых клеточек особенно трудного кроссворда всегда приносит удовлетворение — но какую же радость должен испытывать тот, кто после многих лет безуспешных попыток решить головоломку, которую до него не удавалось решить никому в мире, все-таки сумел найти решение.

По этим же самым причинам Эндрю Уайлс оказался околдованным волшебными чарами Великой теоремы Ферма: «Те, кто занимаются чистой математикой, любят вызов. Они в восторге от нерешенных проблем. Когда Вы занимаетесь математикой, Вами овладевает это великое чувство. Вы начинаете с проблемы, которая представляет для вас полную загадку. Вы не можете ее понять — настолько она сложна, Вы не имеете ни малейшего понятия о том, как к ней подступиться. Но вот, наконец, Вам удается решить ее, и Вас охватывает непередаваемое ощущение ее красоты, изящества и соразмерности деталей и целого. Самыми коварными следует считать те задачи, которые кажутся простыми, но на самом деле оказываются необычайно трудными. Великая теорема Ферма — самый прекрасный пример такого рода проблем. Она выглядит так, будто доказательство должно существовать, и к тому же обладает особенной загадочностью: Ферма утверждал, что нашел ее доказательство».

Математика находит многочисленные приложения в науке и технике, но не они служат главным стимулом развития. Ученых вдохновляет радость открытия. Г. Г. Харди в своей книге «Апология математика» попытался объяснить эту особенность науки и оправдать свою деятельность чистого математика:

В основе стремления решить любую математическую проблему лежит главным образом любопытство, а наградой служит простое, но огромное удовлетворение. Математик Э.Ч. Титчмарш однажды сказал: «От того, что мы знаем, что некоторое число иррационально, нет никакой практической пользы, но если мы можем знать нечто, то не знать этого становится невыносимо».

В случае Великой теоремы Ферма недостатка в любопытстве не было. Работа Гёделя о неразрешимости внесла элемент сомнения в вопрос о том, разрешима ли проблема Ферма, но истинных фанатиков Великой теоремы Ферма это ничуть не разочаровало. Гораздо более разочаровывающим было то, что с 30-х годов математики исчерпали все имевшиеся у них методы, а новых методов появилось явно недостаточно.