ли когда-либо было ожидать (опасаться, надеяться) получить доказательство того, что Великую теорему Ферма нельзя ни доказать, ни опровергнуть?» Мы увидим, что ожидать этого было никак нельзя.

Проблема континуума, упомянутая в конце нашего предыдущего размышления, относится к числу главных проблем, волновавших умы математиков. В знаменитом докладе «Математические проблемы», с которым великий Гильберт выступил в 1900 г. на Международном конгрессе в Париже, она была названа первой. Как было отмечено, проблема континуума оказалась неразрешимой: континуум-гипотезу невозможно ни доказать, ни опровергнуть. Перечисляя 23 основные проблемы математики, Гильберт не упомянул проблему доказательства (или опровержения) Великой теоремы Ферма. По-видимому, Гильберт не считал эту проблему достаточно важной. Тем не менее нет сомнения, что это самая знаменитая из не решённых в то время математических проблем. И притом единственная из таких проблем, известных, к сожалению, широкой массе нематематиков. Мы написали «к сожалению», ибо ощутимую долю времени математики-профессионалы тратят на изучение и опровержение сочинений ферматистов – так называются люди, не имеющие должной математической подготовки, но считающие, что они доказали теорему Ферма.

Если считать, что под теоремами следует понимать лишь те математические утверждения, истинность которых установлена путём доказательства, то теорему Ферма нельзя называть теоремой, а следует называть гипотезой Ферма. Ведь доказательство «теоремы Ферма» ещё не найдено[159]. Но если обозначать словом «теорема» математическое утверждение, истинность которого подлежит установлению путём доказательства, то термин «теорема Ферма» оказывается законным. Как бы то ни было, мы будем употреблять именно его. (Не чуждого терминологических проблем читателя приглашаем взглянуть на статьи «Теорема» и «Ферма теорема» в «Математической энциклопедии» [22, 23].)

Много факторов способствовало популярности теоремы Ферма в среде непрофессионалов. Среди них: 1) авторитетность автора (теорему сформулировал великий французский математик Пьер де Ферма); 2) почтенность возраста (она была высказана около 1630 г.); 3) романтические обстоятельства, при которых она была сформулирована (Ферма записал её на полях латинского перевода «Арифметики» Диофанта издания 1621 г. Восьмая задача второй книги «Арифметики» Диофанта гласит: «Заданный квадрат разложить на два квадрата». Ферма сделал к этой задаче следующее замечание (также на латыни): «Наоборот, невозможно разложить ни куб на два куба, ни биквадрат на два биквадрата – вообще никакую степень, бóльшую квадрата, на две степени с тем же показателем. Я открыл этому поистине чудесное доказательство, но эти поля для него слишком узки». В бумагах Ферма доказательства найдено не было.); 4) учреждение в 1908 г. премии Вольфскеля в 100 тысяч германских марок за доказательство теоремы Ферма («приятный» факт учреждения большой премии, естественно, получил гораздо бóльшую известность, чем «неприятный» факт её обесценивания вследствие наступившей после Первой мировой войны инфляции); 5) простота формулировки.

Конечно, первые четыре фактора не смогли бы сработать, не будь теорема Ферма столь общедоступна по своей формулировке. Вот в чём она состоит: каково бы ни было целое число n, большее чем 2, уравнение хп + уп = zn не имеет целых положительных решений.

Как видим, участвующее в формулировке теоремы Ферма уравнение рассматривают как уравнение с тремя неизвестными: х, у, z. Поскольку п может принимать значения 3, 4, 5, 6 и т. д., то на самом деле речь идёт о бесконечной серии уравнений и утверждается, что ни одно из них не имеет решения в таких целых х, у, z, что х > 0, у > 0, z > 0. С логической точки зрения более естественно рассматривать уравнение хn + уn = zn как одно уравнение с четырьмя неизвестными п, х, у, z. Теорема Ферма, стало быть, утверждает, что это уравнение не имеет целых решений, таких что п > 2, х > 0, у > 0, z > 0.

Современные эксперты сходятся во мнении, что Ферма на самом деле не обладал доказательством своей теоремы, хотя, возможно, умел её доказывать для двух частных случаев, а именно: для случая, когда показатель степени п равен 3, и для случая, когда этот показатель равен 4. Впервые доказательства для этих двух случаев были опубликованы великим швейцарским и российским математиком Эйлером в XVIII в. Заметим, что из доказательства теоремы Ферма для какого-либо показателя n немедленно вытекает её доказательство для всех показателей, делящихся на n. Таким образом, ещё в XVIII в. теорема была доказана для всех показателей, делящихся на 3 или на 4. Далее теорема Ферма была доказана последовательно для показателей, делящихся на 5 (1825 г.), на 14 (1832 г.), на 7 (1839 г.). К 1978 г. справедливость теоремы Ферма была установлена для всех показателей, меньших 125 000. Однако все эти успехи не позволяют утверждать истинность теоремы Ферма в её полном объёме, т. е. утверждать отсутствие таких положительных целых чисел х, у, z, которые смогли бы удовлетворить уравнению хn + уn = zn хотя бы при одном каком-нибудь показателе п, большем чем 2.

Попытки доказать теорему Ферма продолжаются. Теоретически могли бы предприниматься и попытки её опровержения, но этого не происходит. Ситуация с гипотезой, называемой «теоремой Ферма», значительно отличается от той, которая имеет место для континуум-гипотезы, ведь, как мы знаем, доказано, что континуум-гипотезу нельзя ни доказать, ни опровергнуть (точнее, Гёдель в 1939 г. показал, что её нельзя опровергнуть, а Коэн в 1963 г. – что её нельзя доказать). Для гипотезы (теоремы) Ферма такое доказательство – доказательство того, что её невозможно ни доказать, ни опровергнуть – отсутствует. Спрашивается, доказательство пока отсутствует (и остаётся надежда получить его в будущем) или это в принципе невозможно? Если бы такое доказательство удалось получить, это, несомненно, принесло бы математике большую пользу, поскольку раз и навсегда закрыло бы шлюз для потока безграмотных попыток доказать теорему Ферма[160].

К сожалению, такое доказательство невозможно. И мы сейчас разъясним, почему невозможно. Правда, остаётся теоретическая возможность того, что удастся доказать, что теорему Ферма нельзя доказать. Появление такого доказательства также перекрыло бы вышеназванный шлюз, но тогда, вероятно, возник бы поток попыток опровергнуть теорему Ферма (например, путём предъявления в косвенной форме четвёрок астрономически больших чисел п, х, у, z, для которых нужное равенство было бы практически непроверяемым).

Итак, предположим:

(а) существует доказательство того, что теорему Ферма нельзя доказать;

(б) существует доказательство того, что теорему Ферма нельзя опровергнуть.

Наша цель теперь – показать, что (а) и (б) несовместимы, т. е. не может быть, чтобы оба эти утверждения были истинны одновременно. На самом же деле мы обнаружим, что (б) несовместимо даже с более слабым, чем (а), утверждением (a1): теорему Ферма нельзя доказать. А именно, мы покажем, что из (б) следует: теорема Ферма поддается доказательству, что исключает (a1).

Начнём