Ответ Пенроуза многое объяснял: если бы кандидаты на проверку «просто каким-то образом возникали из-под земли», то было бы разумно потратить на нее деньги, но если бы кандидатов создавал, а затем проверял при помощи нашего детектора истинности некий разумный актор, то он мог бы одурачить наш алгоритмический детектор, безошибочно конструируя «неверного» кандидата или кандидатов, – уравнение, которое тот не способен решить, или программу, перспектива окончания которой будет ставить его в тупик. Для наглядности можно вообразить себе космического пирата по имени Румпельштицхен, который взял в заложники планету, но освободит ее, не нанеся никакого вреда, если мы сможем ответить на тысячу бинарного типа вопросов об арифметических предложениях. Следует ли нам вызвать на свидетельскую трибуну математика-человека или компьютеризированный детектор истинности, созданный самыми лучшими программистами? Согласно Пенроузу, если мы предоставим свою судьбу компьютеру и позволим Румпельштицхену увидеть его программу, он сможет воспользоваться его уязвимым местом и придумать такое предложение, которое одурачит машину. (Это было бы так вне зависимости от теоремы Гёделя, будь наша программа эвристическим детектором истинности, подобно любой шахматной программе предпринимающим рискованные действия.) Но Пенроуз не дал нам оснований считать, что с любым математиком-человеком, которого мы можем вызвать на свидетельскую трибуну, ничего подобного не произойдет. Никто из нас не совершенен, и даже у команды экспертов, без сомнения, есть какие-то слабости, которыми мог бы воспользоваться Румпельштицхен, будь у него достаточно информации о мозге каждого из ее членов. Фон Нейман и Моргенштерн изобрели теорию игр, чтобы подойти к решению определенного класса сложных проблем, с которыми нас сталкивает жизнь, когда в мире существуют другие акторы, с которыми приходится соперничать. Человек вы или компьютер, защитить свой мозг от таких конкурентов всегда разумно. Причина, по которой в данном случае важно наличие конкурирующего актора, заключается в том, что пространство всех математических истин Чрезвычайно велико, пространство решений Диофантова уравнения является его Чрезвычайно большой, но при том Исчезающе малой областью, и шансы случайно натолкнуться на истину, которая «сломает» или «побьет» нашу машину, пренебрежимо малы, тогда как разумный поиск в этом пространстве, направляемый знанием о конкретном стиле мышления и ограничениях оппонента, вполне вероятно приведет к искомой иголке в стоге сена: сокрушительному контрманевру.

В Абиско Рольф Вазен поднял еще один интересный вопрос. Класс интересных алгоритмов, без сомнения, включает множество алгоритмов, не являющихся доступными человеку. Образно говоря, в Библиотеке «Тошиба» есть программы, которые будут работать на моем «Тошиба» (и я стану ценить их за те чудеса, которые они для меня творят), но которые никогда не смогут создать люди-программисты или какие-либо из сотворенных ими артефактов (программы, пишущие программы, уже существуют)! Как это возможно? Ни одна из этих удивительных программ не длиннее мегабита, и уже сейчас у нас есть множество действующих программ гораздо большей длины. И опять нам нужно напомнить себе, насколько велико Чрезвычайно большое пространство таких возможных программ. Как бы усердно мы ни работали, но, как и в пространстве возможных пятисотстраничных романов, или пятидесятиминутных симфоний, или поэм в пятьсот строк длиной, в пространстве программ длиной в мегабит будут актуализированы лишь тончайшие прутики реальности.

Существуют короткие романы, которых никто не смог написать и которые были бы не просто бестселлерами – их бы немедленно признали классическими. Удары по клавишам, которые нужно сделать, чтобы их написать, осуществимы в любом текстовом редакторе, и общее количество знаков в любой подобной книге не представляет собой ничего выдающегося, но они продолжают оставаться за горизонтом человеческой творческой способности. Каждый конкретный творец – романист, композитор или программист – несется сквозь Пространство Замысла, направляемый конкретным неповторимым набором привычек, известным как стиль791. Именно стиль одновременно и ограничивает нас, и наделяет силой, придавая позитивное направление нашим изысканиям, но лишь за счет того, что закрывает для нас области, которые в противном случае были бы приграничными, – и, если они запретны, в частности, для нас, то, вероятно, запретны для всех и навсегда. Индивидуальные стили поистине уникальны: они – продукт бессчетных миллиардов непрогнозируемых встреч, происходивших на протяжении целой вечности; сначала в результате этих встреч появился уникальный геном, затем – уникальное воспитание и, наконец, уникальная комбинация жизненного опыта. У Пруста не было шансов написать какие-либо романы о Вьетнамской войне, и никто другой этих романов написать не смог бы – романов, отражающих ту эпоху в его манере. Актуальность и конечность нашего существования загоняет нас в ничтожный уголок всего пространства возможностей, но насколько прекрасная актуальность остается нам доступной благодаря проектно-конструкторской работе всех наших предков! Так не лучше ли, насколько в наших силах, воспользоваться имеющимися возможностями и оставить нашим потомкам значительно больше материала для работы?

Настало время переложить бремя доказательства на плечи соперника, как сделал Дарвин, когда призвал своих оппонентов описать какой-либо иной – отличный от естественного отбора – способ, которым могли бы были быть созданы все чудеса природы. Те, кто считает, что человеческий разум неалгоритмичен, должны задуматься о том, какую гордыню предполагает это убеждение. Если опасная идея Дарвина верна, алгоритмический процесс достаточно мощен, чтобы создать дерево и соловья. Намного ли сложнее для него будет написать оду соловью либо подобные дереву стихи? Несомненно, Второе правило Орджела верно: эволюция умнее вас.

ГЛАВА 15: Теорема Гёделя все-таки не ставит под сомнение возможность искусственного интеллекта. В действительности, стоит нам понять, как алгоритмический процесс может избежать когтей теоремы Гёделя, и мы яснее, чем когда-либо, увидим, как опасная идея Дарвина связывает воедино Пространство Замысла.

ГЛАВА 16: А что же мораль? Она тоже эволюционирует? Со времен Томаса Гоббса и по сю пору социобиологи рассказывали Сказки просто так об эволюции морали, но, согласно некоторым философам, любая подобная попытка приводит к «натуралистической ошибке»: ошибкой является поиск фактов о том, как устроен мир, ради обоснования (или редукции) этических выводов о том, как ему следует быть устроенным. Эту ошибку лучше рассматривать как вызов, брошенный алчному редукционизму – вызов, зачастую небезосновательный. Но в этом случае нам в нашем редукционизме просто следует проявлять меньшую алчность.