У Ферма имелся экземпляр перевода «Арифметики» на латинский язык, сделанного Клодом Баше де Мезирьяком в 1621 г., и свои замечания к тексту он записывал на полях. По словам сына Ферма Самюэля, Великая теорема была сформулирована как замечание к Вопросу VIII Книги II у Диофанта. Мы знаем об этом потому, что Самюэль издал собственный вариант «Арифметики», включив туда и примечания отца. Даты, когда делались примечания, неизвестны, но известно, что Ферма начал изучать «Арифметику» около 1630 г. Часто приводится дата 1637 г., но это лишь интуитивная оценка. Предполагается, что именно после размышлений о потенциальных обобщениях Пифагоровых треугольников Ферма и написал свою знаменитую маргиналию:

То есть диофантово уравнение xn + yn = zn не имеет целых решений, если n – целое число, большее или равное трем.

Имеются косвенные свидетельства того, что со временем Ферма отказался от мысли о том, что владеет доказательством. Он имел обыкновение включать свои теоремы в письма в качестве головоломок, которые другим математикам предлагалось решить (и по крайней мере один из них жаловался на чрезмерную сложность заданий). Однако ни в одном из сохранившихся его писем не упоминается эта теорема. Что еще более показательно, Ферма предложил в качестве задач своим корреспондентам два ее частных случая, с кубами и четвертыми степенями. Зачем бы он стал это делать, если бы мог доказать более общий вариант? Он наверняка мог доказать теорему для случая с кубами, и мы знаем, как он доказывал ее для четвертых степеней. Мало того, это доказательство – единственное во всех оставленных им работах и бумагах. В формулировке Ферма это утверждение выглядело так: «Площадь прямоугольного треугольника не может быть квадратом». Очевидно, по замыслу автора эта формулировка должна была вызывать в памяти Пифагоровы тройки. Из Евклидова алгоритма решения диофантовых уравнений легко следует, что эта задача эквивалентна нахождению двух квадратов, дающих в сумме четвертую степень. Если бы решение уравнения x4 + y4 = z4 с показателем степени 4 существовало, то и x4, и y4 были бы квадратами (x2 и y2 соответственно); тогда из утверждения Ферма следует, что такого решения не существует.

Его доказательство было изящно и сделано по тем временам радикально новым методом, который сам он назвал методом бесконечного спуска. Предположим, что решение существует; тогда, применив алгоритм Евклида и немного повозившись, можно прийти к выводу, что существует и еще одно, меньшее решение. Следовательно, говорит Ферма, можно построить бесконечную цепочку решений, которые с каждым шагом будут становиться все меньше и меньше. Поскольку любая нисходящая цепочка такого рода, составленная из положительных целых чисел, в конце концов должна будет закончиться, возникает логическое противоречие. Значит, гипотетическое решение, с предположения о существовании которого мы начали свои рассуждения, не может существовать в действительности.

* * *

Возможно, Ферма намеренно скрывал свои доказательства. Судя по всему, он любил пошутить и ему нравилось помучить собратьев-математиков, представляя им свои изыскания в виде загадок. Его замечание на полях не единственное, в котором объявлялся некий важный результат, а затем следовали извинения за отсутствие доказательств. Декарт считал Ферма фанфароном, а Валлис называл его не иначе как «этот проклятый француз». Как бы то ни было, его тактика – если так и было задумано – работала. После смерти Ферма – да и при его жизни тоже – великие математики считали своим долгом довести до ума и отшлифовать какую-нибудь из головоломок, которые Ферма оставил потомкам. Эйлер, к примеру, объявил, что нашел доказательство теоремы для третьих степеней (сумма двух кубов не может быть кубом) в 1753 г. в письме к своему другу Христиану Гольдбаху. Сегодня мы понимаем, что в его доказательстве имелся пробел, но заполнить его было относительно несложно, так что первое опубликованное доказательство этого случая обычно признают за Эйлером. Адриан-Мари Лежандр доказал Великую теорему для пятых степеней в 1825 г., а Петер Дирихле доказал ее для 14-х степеней в 1832 г. и попытался – неудачно – доказать для седьмых; этот результат, вероятно, можно было бы спасти, если бы автор нацелился на что-нибудь попроще. Габриель Ламе разобрался с седьмыми степенями в 1839 г., а в 1847 г. изложил основные идеи общего доказательства в Парижской академии наук. В его доказательстве был задействован аналог разложения на простые множители для особого типа комплексных чисел.

Сразу же после его выступления встал Жозеф Лиувиль, который указал на возможную ошибку в методе Ламе. Для обычных чисел разложение на простые множители всегда единственно: если оставить в стороне порядок записи множителей, то сделать это можно только одним способом. К примеру, число 60 раскладывается на простые множители как 22 × 3 × 5, и существенно этот набор изменить нельзя. Лиувиль опасался, что для предложенного Ламе класса комплексных чисел факторизация может оказаться не единственной. Со временем его опасения оправдались: впервые это свойство нарушается для 23-х степеней.

Эрнст Куммер сумел спасти эту идею, добавив в смесь новые ингредиенты, которые он назвал «идеальными числами». Эти штуки ведут себя как числа, но числами при этом не являются. При помощи идеальных чисел он доказал Великую теорему Ферма для многих степеней, включая все простые степени до 100, за исключением 37, 59 и 67. К 1993 г. было известно, что Великая теорема Ферма верна для всех степеней вплоть до 4 млн, но это все более отчаянное карабканье вверх не проливало никакого света на общий случай. Новые идеи начали появляться в 1955 г. в связи с работами Ютаки Таниямы, который занимался исследованиями в другой области теории чисел, никак на первый взгляд не связанной с нашей темой, – в области эллиптических кривых. (Название обманчиво, и эллипс тут ни при чем. Эллиптическая кривая – особый тип диофантова уравнения.) Танияма предположил очень интересную связь между этими кривыми и комплексным анализом – теорию модулярных функций. На протяжении многих лет почти никто не верил в его правоту, но постепенно накопилось достаточно свидетельств того, что гипотеза, получившая известность как гипотеза Симуры – Таниямы – Вейля, может оказаться верной.

В 1975 г. Ив Эллегуар обратил внимание на связь между Великой теоремой Ферма и эллиптическими кривыми и предположил, что любой контрпример к этой теореме означал бы существование эллиптической кривой с очень странными свойствами. В двух статьях, опубликованных в 1982 и 1986 гг., Герхард Фрей показал, что эта кривая должна быть настолько странной, что существовать не может в принципе. Из этого утверждения непосредственно следовала бы (от противного) Великая теорема Ферма, если бы Фрей не использовал в своем доказательстве гипотезу Симуры – Таниямы – Вейля, которая сама пока оставалась недоказанной. Однако все эти события убедили многих специалистов по теории чисел в том, что Эллегуар и Фрей стоят на верном пути. Жан-Пьер Серр предсказал, что Великая теорема Ферма будет доказана именно этим способом примерно за десятилетие до того, как это произошло в действительности.