«Всё, что человеческие существа делают для упрощения работы в ком­пьютерных сетях, в то же самое время и по совершенно иным причинам позволяет самим компьютерным системам проще управлять человеческими существами», - писал Джордж Дайсон в своей книге 1997 года «Дарвин среди машин. Эволюция земного интеллекта», рас­сказывающей об истории развития искусственного интеллекта. Спустя восемь лет после издания этой книги Дайсон был приглашён в Googleplex для чтения лекции о деятельности Джона фон Неймана, физика из Принстона, который в 1945 году, основываясь на работах Алана Тьюринга, создал первый детальный план современного компьютера. Для Дайсона, который провёл основную часть своей жизни в размышлениях о внутренней жизни машин, визит в Google мог показаться крайне волнующим. В конце концов, это была компания, готовая посвящать все свои огромные ресурсы (в том числе умы множества прекрасных компью­терных специалистов со всего мира) созданию искусственного мозга.

Однако в ходе визита Дайсон испытал немалое беспокойство. В финаль­ной части своей работы он писал о важном предупреждении, которое Тью­ринг сделал в работе «Вычислительные машины и разум». Великий математик писал, что в попытках создать интеллектуальные машины «мы не должны безответственно узурпировать власть Бога, создающего души, кроме как для рождения детей».

Затем Дайсон упомянул один комментарий, сделанный его «необычайно проницательным другом» во время визита в Googleplex: «Мне показалось, что это место было наполнено уютом. Счастливые золотистые ретриверы медленно бегут между разбрызгивателями воды на лужайке. Люди машут руками и улыбаются, повсюду можно увидеть игрушки. Я сразу же заподо­зрил, что где-то в тёмном углу таится невероятное зло. Если бы дьявол при­шёл на Землю, мог бы он найти лучшее убежище?» Разумеется, подобная реакция может показаться слишком экстремальной, однако она вполне объ­яснима. Google, обладающая нереальными амбициями, огромными деньгами и империалистической точкой зрения на устройство мира, представляет собой естественное отражение и наших страхов, и наших надежд. «Кто-то говорит, что Google - это Бог, - признал Сергей Брин. - Другие полагают, что Google - это сатана».

Так что же таится в тёмных углах Googleplex? Стоим ли мы на пороге появ­ления искусственного интеллекта? Стучатся ли наши кремниевые повелители в нашу дверь? Возможно, нет. Первая научная конференция по вопросам искусственного интеллекта прошла в Дартмуте летом 1956 года. В то время всем казалось очевидным, что в самом скором времени компьютеры будут способны воспроизводить человеческую мысль. По завершении месячного конклава математики и инженеры поделились своими мыслями в итоговом заявлении: «Каждый аспект обучения или другого проявления интеллекта может быть, в принципе, описан настолько точно, что возможно создание машин, его имитирующих». Вопрос заключался лишь в написании правиль­ных программ или в преобразовании сознательных процессов, происходя­щих в человеческом мозге, в алгоритмы из ряда последовательных шагов.

Однако, несмотря на годы последующих усилий, работа человеческого мозга, как и прежде, ускользала от точного описания. В течение пятидесяти лет, про­шедших с Дартмутской конференции, компьютеры начали работать со ско­ростью молнии, однако с точки зрения интеллекта, они остаются тупыми как пни. Наши мыслительные машины до сих пор не представляют себе, о чём именно они думают. Замечание Льюиса Мамфорда о том, что «ни один ком­пьютер не может придумать никакой новый символ, основываясь на своих внутренних ресурсах», остаётся сегодня справедливым ничуть не меньше, чем в 1967 году, когда оно впервые было произнесено.

Однако защитники искусственного интеллекта не сдаются. Они просто переключают фокус своих усилий. Для этого им пришлось отказаться от напи­сания программного кода, имитирующего процесс человеческого обучения и другие сложные функции интеллекта. Вместо этого они пытаются копиро­вать в компьютерной схемотехнике электрические сигналы, движущиеся внутри миллиардов нейронов человеческого мозга. Они верят, что интеллект может «всплыть» в машине точно так же, как всплывает мышление в мозге человека. По словам Пейджа, если вы можете правильно произвести «общие расчёты», то алгоритмы интеллекта будут писаться сами собой. В эссе, написанном в 1996 году и посвящённом наследию фильма Кубрика, изобретатель и футуролог Рей Курцвейл утверж­дал, что как только мы сможем сканировать человеческий мозг с должной степенью детализации «и разобраться с архитектурой межнейронных свя­зей в различных его областях», то сможем «смоделировать нейронные сети, действующие сходным образом». И хотя «мы пока не можем создать мозг, подобный устройству ЗАЛ, - заключил Курцвейл, - мы можем прямо сейчас описать, каким образом возможно решить эту задачу».

У нас крайне мало оснований считать, что этот новый подход к разви­тию интеллектуальной машины окажется более продуктивным, чем прошлый. Кроме того, он основан на редуктивных предположениях. Он принимает как данное, что мозг действует по тем же математическим правилам, что и компью­тер, - иными словами, что мозг и компьютер говорят на одном языке. Однако в этом кроется значительная ошибка: мы пытаемся объяснить явление, кото­рое не понимаем, понятными нам терминами. Фон Нейман предупреждал о том, что мы можем пасть жертвой этой ошибки. «Говоря о математике, - писал он в конце жизни, - мы обсуждаем некий вторичный язык, выстроен­ный на базе первичного языка, используемого нашей центральной нервной системой». И каким бы ни был язык нервной системы, «он наверняка будет значительно отличаться от того, что мы сознательно и явно подразумеваем под математикой».

Ошибочным также будет думать, что физический мозг и мозг мыслящий существуют как два независимых друг от друга слоя в рамках точно спроекти­рованной «архитектуры». Как показали первые исследователи нейропластич­ности, мозг и мышление изысканным образом переплетаются между собой, формируя друг друга. Как писал Ари Шульман в статье 2009 года под назва­нием «Почему наш мозг не похож на компьютер» в журнале NewAtlantis, «есть все основания считать, что наш мозг представляет собой не аккуратно отде­лимую иерархию, как у компьютера, а скорее, запутанную иерархию органи­зации и причинно-следственных связей. Изменения в мышлении приводят к изменениям в мозге, и наоборот». Для того чтобы создать компьютерную модель мозга, в точности имитирующую процесс мышления, нам потребова­лось бы произвести репликацию «каждого уровня мозга, на который влияет процесс мышления». Но так как мы находимся достаточно далеко от пол­ного распутывания иерархии мозга и крайне мало понимаем, каким образом взаимодействуют между собой его уровни, создание искусственного мозга станет, в лучшем случае, уделом будущих поколений.

Google - не Бог и не сатана, и если в Googleplex и есть какие-нибудь тени того или другого, то это не более чем отражение мании величия. Многих раз­дражает в этой компании не мальчишеское желание создать крутую машину, способную думать лучше, чем её создатели, а ущербное представление о человеческом мозге, лежащее в основе этого желания.

Сократ был прав. По мере того как люди всё больше привыкали запи­сывать свои мысли и читать мысли, записанные другими, они стали куда меньше зависеть от содержимого собственной памяти. То, что прежде хра­нилось в голове, теперь могло храниться на табличках, свитках или между обложками кодексов. Как и предсказывал великий оратор, люди начали запо­минать вещи не из-за внутренней потребности, а руководствуясь внешними знаками. С появлением печатного пресса и последовавшими за ним бур­ным развитием издательского дела и ростом грамотности важность личной памяти человека снизилась ещё сильнее. Книги и журналы в библиотеках и домашних коллекциях стали полноценным дополнением к биологическому хранилищу в нашем мозге. Отныне людям уже не нужно было запоминать всё подряд. Они могли просто обратиться к внешнему источнику.