Ферма использовал тот простой факт, что четвертая степень — это особый случай квадрата. Та же идея показывает, что в целях доказательства теоремы Ферма можно считать, что показатель степени n либо равен 4, либо является нечетным простым числом. Любое число n больше 2 делится либо на 4, либо на некоторое нечетное простое p, так что любая n-я степень — это одновременно либо 4-я степень, либо p-я[5]. За два столетия после Ферма его Великую теорему удалось доказать ровно для трех нечетных простых чисел: это 3, 5 и 7. С кубами разобрался Эйлер в 1770 г.; в его опубликованном доказательстве есть пробел, но его можно заполнить при помощи результата, опубликованного им же в другом месте. С пятыми степенями справились Лежандр и Петер Лежен Дирихле около 1825 г. Теорему Ферма для седьмых степеней доказал Габриель Ламе в 1839 г. Позже для этих случаев было найдено немало других доказательств. Где-то по пути несколько математиков получили доказательства для степеней 6, 10 и 14, но эти результаты перекрывались доказательствами для 3, 5 и 7.

Каждое из упомянутых доказательств использует какие-то алгебраические черты, присущие именно этим степеням. Долгое время не было никаких намеков на какую бы то ни было общую структуру, которая могла бы послужить основой доказательства теоремы для всех или хотя бы для значительного числа разных степеней. С ростом показателей степени доказательства становились все сложнее и сложнее. Требовались свежие идеи, открывающие новые горизонты. Софи Жермен, одна из величайших женщин-математиков, разделила теорему Ферма для простых степеней p на два случая. В первом случае ни одно из чисел x, y, z не делится на p. Во втором — одно из них делится. Рассмотрев особые «вспомогательные» простые числа, связанные с p, она доказала, что в первом случае уравнение Ферма не имеет решений для нечетных простых чисел меньших 100. Однако трудно было доказать что-нибудь насчет вспомогательных простых чисел в целом.

Жермен переписывалась с Гауссом, причем сначала под мужским псевдонимом, и оригинальность ее рассуждений весьма впечатлила великого математика. Когда же выяснилось, что его корреспондент — женщина, Гаусс впечатлился еще сильнее и прямо сказал об этом. В отличие от многих своих современников, Гаусс не считал женщин неспособными к высокоинтеллектуальной деятельности, в частности к математическим исследованиям. Позже Жермен предприняла неудачную попытку доказать первый случай Великой теоремы Ферма для всех четных чисел, где опять же можно было бы воспользоваться евклидовой характеристикой пифагоровых троек. Окончательно разобраться с четными степенями удалось только Гаю Тержаняну в 1977 г. Второй случай казался куда более крепким орешком, и никто особенно далеко с ним и не продвинулся.

В 1847 г. Ламе, опираясь на свое доказательство для седьмых степеней, выдвинул замечательную идею. Для ее реализации требовалось ввести комплексные числа, но к тому моменту это уже никого не смущало. Главным ингредиентом было то же, чем воспользовался Гаусс при построении своего правильного 17-угольника (см. главу 3). Любой специалист по теории чисел знал об этом, но до Ламе никому не приходило в голову, что этим можно воспользоваться для доказательства Великой теоремы Ферма.

В системе действительных чисел единица имеет ровно один корень p-й степени (если p нечетное), и корень этот равен самой единице. Но в комплексных числах 1 имеет несколько, а именно p, корней p-й степени. Этот факт — следствие основополагающей теоремы алгебры, поскольку эти корни удовлетворяют уравнению xp − 1 = 0 степени p. Для комплексных корней p-й степени из единицы существует симпатичная формула, из которой явствует, что все они являются степенями 1, ζ, ζ2, ζ3, …, ζp − 1 некоего комплексного числа ζ (см. прим. {25}). Определяющее свойство этих чисел подразумевает, что xp + yp раскладывается на p множителей:

Согласно уравнению Ферма, это выражение равно также zp, что представляет собой p-ю степень некоего целого числа. Несложно заметить, что если произведение чисел, не имеющих общих делителей, представляет собой p-ю степень, то и каждое число в отдельности представляет собой p-ю степень. Таким образом, если оставить в стороне некоторые технические подробности, Ламе мог записать каждый из сомножителей как p-ю степень. Отсюда он вывел противоречие.

В марте 1847 г. Ламе выступил с полученным в результате доказательством теоремы Ферма в Парижской академии и сказал, что основной идеей он обязан Жозефу Лиувиллю. Лиувилль поблагодарил Ламе, но одновременно указал на потенциальную проблему в доказательстве. Дело в том, что главное утверждение о том, что каждый сомножитель представляет собой p-ю степень, вовсе не бесспорно. Все зависит от единственности разложения на простые множители — причем не для обычных целых чисел, где это свойство выполняется, но для новых типов чисел, введенных Ламе. Эти комбинации степеней ζ известны как круговые, или циклотомические, числа. Слово «циклотомический» означает «разрезающий круг» и указывает на обстоятельство, которое исследовал еще Гаусс. Мало того, что свойство единственности разложения на простые множители для круговых чисел не доказано, сказал Лиувилль, они вполне могут им и не обладать.

У других математиков сомнения возникли даже раньше. За три года до этого Готтхольд Эйзенштейн писал одному из коллег: