Сказанное не означает, что уравнение не имеет решений. Любое уравнение пятой степени имеет по крайней мере одно действительное решение – и всегда имеет ровно пять решений, если разрешить комплексные числа и правильно учесть кратные решения. Но эти решения невозможно заключить в алгебраическую формулу, в которой не используется ничего более сложного, чем радикалы.

Первое серьезное свидетельство в пользу того, что дело может обстоять именно так, появилось в 1770-е гг., когда Лагранж написал длинный трактат об алгебраических уравнениях. Вместо того чтобы просто отметить, что традиционные решения верны, он задался вопросом о том, почему эти решения вообще существуют. Какие особенности уравнения делают его разрешимым в радикалах? Он унифицировал классические методы решения для второй, третьей и четвертой степеней, соотнеся их с особыми выражениями в формулах решения, которые при перестановке решений ведут себя довольно интересно. В качестве тривиального примера заметим, что сумма решений будет одинаковой, в каком бы порядке мы их ни записали. Как и произведение. Алгебраисты-классики доказали, что любое полностью симметричное выражение, подобное этим, всегда может быть выражено через коэффициенты уравнения, без всякого использования радикалов.

Более интересным примером для кубического уравнения с решениями a1, a2, a3 является выражение

Если мы переставим решения циклически, так что a1 → a2, a2 → a3, a3 → a1, значение этого выражения не изменится. Однако, если мы поменяем два из них местами, так что a1 → a2, a2 → a1, a3 → a3, выражение поменяет знак. То есть как бы домножится на –1, а в остальном останется неизменным. Следовательно, его квадрат полностью симметричен и должен выражаться некоторым образом через коэффициенты. Это помогает объяснить, почему в формулу Кардано для решения кубических уравнений входят квадратные корни. Другое частично симметричное выражение объясняет присутствие там кубических корней.

Развивая эту идею, Лагранж нашел общий метод решения уравнений квадратных, кубических и четвертой степени с использованием перестановочных свойств конкретных выражений в решениях. Он показал также, что этот метод не работает для уравнений пятой степени. Он приводит не к более простому уравнению, а, наоборот, к более сложному, лишь усугубляя проблему. Это не означает, что такое уравнение невозможно решить никаким иным способом, но это уже явный намек на потенциальные проблемы.

В 1799 г. Паоло Руффини, поняв намек, опубликовал двухтомную «Общую теорию уравнений». «Алгебраическое решение обобщенных уравнений степени выше четвертой, – писал он, – всегда невозможно. Вот очень важная теорема, которую, мне кажется, я в состоянии доказать (если не ошибаюсь)». В качестве источника вдохновения он сослался на исследование Лагранжа. К несчастью для Руффини, перспектива продираться через 500-страничный том, наполненный сложной алгеброй, только для того, чтобы получить в конечном итоге отрицательный результат, никому не улыбалась, и на его работу не обратили практически никакого внимания. Ведущие алгебраисты начали уже примиряться с вероятным отсутствием решения, и это, вероятно, тоже не способствовало повышенному интересу. Да и слухи о том, что в книге есть ошибки, гасили всякое желание с ней знакомиться. Руффини попробовал еще раз, с доработанным доказательством, более простым, как ему казалось, для понимания. В 1821 г. Коши все же написал автору, что его книга «всегда казалась мне достойной внимания математиков и, насколько я могу судить, полностью доказывает невозможность решения алгебраических уравнений степени выше четвертой».

Возможно, похвала Коши несколько исправила репутацию Руффини, но ему не пришлось долго этому радоваться; он умер меньше чем через год. После его смерти математики пришли к общему мнению о том, что уравнение пятой степени невозможно решить в радикалах, но статус доказательства Руффини долго еще оставался неясным. Лишь много лет спустя в нем была обнаружена небольшая ошибка. Пробел можно было залатать, еще удлинив тем самым книгу Руффини, но к тому момент Абель уже нашел гораздо более короткое и простое доказательство. Мало того, оказалось, что один из его результатов вполне в состоянии дополнить доказательство Руффини. Абель умер молодым, вероятно от туберкулеза. Такое впечатление, что уравнение пятой степени было чем-то вроде отравленной чаши для всех, кто занимался поисками его решения.

И Руффини, и Абель взяли на вооружение ключевую идею Лагранжа: важно, какие выражения сохраняют инвариантность при определенных перестановках корней. Главный вклад Галуа заключался в создании общей теории, основанной на перестановках и применимой к любым полиномиальным уравнениям. Он не просто доказал, что какие-то конкретные уравнения нерешаемы в радикалах; он задался вопросом, какие из них решаемы. Его ответ состоял в том, что набор перестановок, сохраняющих все алгебраические соотношения между корнями, – он назвал это группой уравнения – должен иметь конкретную, довольно формальную, но четко определенную структуру. Детали этой структуры объясняют, какие именно радикалы появятся в решении, если решение в радикалах существует в принципе. Отсутствие такой структуры означает, что решения в радикалах просто нет.

Задействованная здесь структура весьма сложна, хотя и естественна с точки зрения теории групп. Уравнение решаемо в радикалах в том, и только том случае, если его группа Галуа имеет серию особых подгрупп (именуемых «нормальными»), такую, что конечная подгруппа содержит всего одну перестановку и число перестановок в каждой последующей подгруппе равно числу перестановок в предыдущей, деленному на некоторое простое число. Идея доказательства состоит в том, что нужны только простые радикалы – к примеру, корень шестой степени есть квадратный корень из кубического корня, при этом числа 2 и 3 – простые, – и каждый такой радикал снижает размер соответствующей группы делением числа ее членов на соответствующее простое число.

Группа Галуа для обобщенного уравнения четвертой степени, к примеру, содержит все 24 возможные перестановки решений. Эта группа имеет нисходящую цепочку нормальных подгрупп с размерами

и

Следовательно, уравнение четвертого порядка решить можно, и в формуле для решения мы ожидаем встретить квадратные (следует из двоек) и кубические (следует из троек) корни, но ничего больше.

Группы для квадратных и кубических уравнений меньше по размеру и опять же имеют нисходящие цепочки нормальных подгрупп, размеры которых изменяются делением на простые числа. А что с уравнением пятой степени? У него пять решений, что дает нам 120 перестановок. Единственная цепочка нормальных подгрупп имеет размеры