Подобные выводы могут разочаровать тех, кто все еще лелеет платоновские мечты о математическом идеале, но всем остальным они кажутся удивительными, ведь они показывают, какой огромной силой обладает наше творческое начало. Трещины в дамбе математического идеализма показывают нам изнутри, как хрупок человек, и наделяют наши попытки создать Остров знаний высотой и благородством. Гедель и Тьюринг пролили свет на сложную природу математической истины – как и истины в целом. Мы не всегда можем найти ответы на свои вопросы, следуя определенному набору правил, потому что у некоторых вопросов нет ответов. Язык, который мы создали для себя, не позволяет нам подтвердить или опровергнуть истинность некоторых утверждений. В результате – по крайней мере, в принятых сегодня логических рамках – мы не можем представить себе формально полную систему знаний, созданную при участии человеческого разума. Некоторые наши интеллектуальные ресурсы не поддаются контролю и возникают из новых принципов исследования и демонстрации, которые не вписываются в границы логики. Если вы фанат сериала «Звездный путь», то вот вам такая аналогия: мы никогда не сможем стать подобными Споку и другим вулканцам. Как прекрасно, что мы не рабы формального интеллектуального процесса! Именно это ограничение и неожиданные места, в которые оно приводит нас в нашей постоянной борьбе за понимание, делает стремление к знаниям непредсказуемым и оттого более захватывающим. Неполнота открывает нам путь к творческой свободе.

Ограниченность математики как закрытой и завершенной формальной системы затрагивает еще одну важную сферу знаний – взаимоотношения между машинами и человеческим сознанием. Этот вопрос все еще является важным и трудным для понимания науки. Могут ли машины мыслить, как мы, могут ли они, в конце концов, стать креативными и инновационными существами, а не бездумными исполнителями инструкций или кодов? Может ли человеческий мозг со всей его сложностью быть смоделирован, может ли его суть быть схвачена и реализована в машине?

Этому вопросу можно посвятить (и уже посвящено) много книг, но данная книга – не одна из них. Я хотел бы поговорить о том, как такой вопрос влияет на нашу дискуссию об ограниченности знаний и ее важности для человечества.

В заключительных параграфах «Теоремы Геделя» Эрнест Нагель и Джеймс Ньюман пишут, что одним из следствий теорем о неполноте является тот факт, что вычислительные приборы (по крайней мере, как их понимали в момент публикации книги в 1958 году) не могут имитировать человеческое сознание: «В ближайшее время замена человеческого мозга роботом невозможна».[184] Нагель и Ньюман подчеркивают, что, каким бы ни был их объем памяти и скорость обработки данных, машины всегда следуют линейной пошаговой логике, основанной на фиксированной аксиоматике (программе и ее синтаксисе). Как доказал Гедель, такая логика, в отличие от человеческого сознания, не в состоянии решить неразрешимые проблемы в теории чисел. Появившиеся во второй половине века клеточные автоматы, машинное обучение, параллельное кодирование и иные техники сократили разрыв между электронным устройством и человеческим мозгом, и потому ситуация существенно изменилась. Тем не менее «в ближайшее время замена человеческого мозга роботом» все еще невозможна.

Машины способны обойти человека в решении задач, которые на первый взгляд требуют осмысленных рассуждений. Например, суперкомпьютер IBM Deep Blue в 1997 году в матче-реванше победил чемпиона мира по шахматам Гарри Каспарова, а компьютер Watson в 2011 году обыграл победителей игры «Jeopardy!» Брэда Раттера и Кена Дженнингса. Некоторым эти достижения кажутся впечатляющими, а некоторых пугают. Тем не менее за победами компьютеров не стоят ни глубокие рассуждения, ни творческое мышление, а лишь блестящие программы, очень быстрая обработка информации и доступ к огромным базам данных (в случае с Watson – к двумстам миллионам веб-страниц, включая всю «Википедию»). Эти устройства и их победы следует скорее назвать триумфом человеческого гения.

Существуют различные уровни машинного интеллекта, и нет никаких сомнений в том, что в области копирования некоторых аспектов функционирования человеческого мозга мы добились невероятного прогресса. Но искусственный интеллект как самостоятельное мышление машины остается далекой целью. Одной из причин этого является тот факт, что мы недостаточно хорошо представляем себе, что такое интеллект вообще и как именно человеческий мозг (или в меньшей степени мозг высокофункциональных животных) вмещает его в себя. Если интеллект зависит исключительно от архитектуры мозга, включая мириады синаптических соединений между нейронами, тогда существуют основания предполагать, что создание ИИ (искусственного интеллекта) всего лишь дело времени и что когда-нибудь машины научатся имитировать человеческий мозг и в конечном итоге превзойдут его. Это фундаментальное предположение, по сути, дало начало исследованиям сильного ИИ на конференции 1956 года в Дартмутском колледже: «Каждый аспект обучения или иная характеристика интеллекта может быть описана настолько точно, что возможно создать машину для ее имитации».[185] С другой стороны, если интеллект и сознание действительно зависят от чего-то другого, например от какого-то неизвестного организационного принципа или принципов, то простого инженерного анализа будет недостаточно для создания мыслящих машин.

Таким образом, осуществимость этой задачи зависит от функционирования мозга и природы сознания. Проблема и главное затруднение состоят в том, что между экспертами в этой области нет согласия. Компьютерная теория разума, один из сильнейших аргументов в пользу ИИ, утверждает, что мозг можно декодировать и что его работа сводится к коммуникации между нейронами и образованию операционных кластеров. Не существует никакой великой загадки сознания, есть лишь непонимание принципов его работы. Оптимисты, такие как изобретатель Рэй Курцвейл, создатель роботов Ханс Моравец и кибернетик Кевин Уорвик, уверены, что день, когда компьютеры смогут имитировать человеческий мозг, уже не за горами. В 1965 году один из основателей компании Intel Гордон Мур вывел эмпирическую закономерность, известную как закон Мура: количество транзисторов в интегральных схемах удваивается примерно каждые два года. Курцвейл применил этот закон к современным микропроцессорным технологиям и сделал вывод, что к 2029 году персональные компьютеры сравняются по мощности обработки информации с нашим мозгом. Продолжая свои рассуждения, он приходит к тревожным выводам: к 2045 году искусственный интеллект научится улучшать сам себя с немыслимой скоростью. Этот момент в истории писатель-фантаст Вернор Виндж называет сингулярностью.