подобных исследований. Квантовые ИИ с их чувствительностью к шуму могут даже «предпочитать» стужу и тьму глубокого космоса.

В трогательном отрывке из романа «Странный Джон» (1935) гениального фантаста Олафа Стэплдона герой, сверхчеловеческий разум (мутант), характеризует Homo Sapiens как археоптерикса духа. Он говорит это с любовью своему другу и биографу – совершенно обычному человеку. Археоптерикс был благородным существом, звеном эволюции на пути к новым достижениям.

Глава 8

Давайте поставим более высокую цель, чем свалка истории

Макс Тегмарк

физик из Массачусетского технологического института и исследователь ИИ; президент Института «Жизнь в будущем»; научный руководитель Института основополагающих вопросов; автор книг «Наша математическая вселенная» и «Жизнь 3.0: быть человеком в эпоху искусственного интеллекта».

Меня представил Максу Тегмарку несколько лет назад его коллега по МТИ Алан Гут, «отец» инфляционной модели Вселенной[73]. Макс, выдающийся физик-теоретик и космолог, в настоящее время сильнее всего озабочен надвигающимися экзистенциальными рисками, которыми чревато создание ОИИ (общего искусственного интеллекта, соответствующего человеческому). Четыре года назад Макс вместе с Яаном Таллинном и другими учеными основал Институт «Жизнь в будущем» (FLI), который позиционирует себя как «перспективную организацию, призванную обеспечить, чтобы самые мощные технологии будущего приносили пользу человечеству». В Лондоне в ходе подписного тура после выхода очередной его книги он, когда процесс создания FLI был в разгаре, признался, что разрыдался на станции метро после посещения Музея науки, экспозиция которого охватывает весь диапазон технологических достижений человечества. Не окажется ли этот поразительный прогресс напрасным?

В научно-консультативный совет FLI входят Илон Маск, Фрэнк Вильчек, Джордж Черч, Стюарт Рассел и оксфордский философ Ник Бостром, изобретатель часто упоминаемого Gedankenexperiment[74], по итогам которого возник мир, полный бумажных скрепок (и ничего более), созданный (очевидно) благим ОИИ, лишь выполнявшим инструкции. Институт организовал ряд конференций (Пуэрто-Рико, 2015; Асиломар, 2017) по вопросам безопасности ИИ, а в 2018 году устроил конкурс грантов для исследований в области максимизации социальных выгод ОИИ для общества.

Макса иногда причисляют – прежде всего no-cognoscenti[75] – к паникерам, но он, как и Фрэнк Вильчек, верит в будущее, которое сулит немалые выгоды из применения ОИИ, если в попытках его создать мы сможем уберечь человеческий род от вымирания.

Несмотря на обилие разногласий по поводу того, как и когда ИИ начнет изменять человечество, ситуация видится ясной с космической, так сказать, точки зрения: развивающая технологии жизнь на Земле стремится уничтожить себя, не обращая сколько-нибудь серьезное внимание возможным последствиям. Это кажется мне поистине удивительной слепотой, учитывая наши возможности обеспечить поразительное процветание человечества, невиданное в истории, если решим реализовывать более дерзновенные планы.

Через 13,8 миллиарда лет с момента возникновения наша Вселенная осознала себя. На маленькой голубой планетке крошечные сознательные элементы Вселенной вдруг поняли, что мнимая сумма существования, которую они вывели, есть не более чем ничтожная частью чего-то гораздо более грандиозного – Солнечной системы, Галактики и Вселенной, где свыше 100 миллиардов других галактик, организованных в сложную схему групп, кластеров и сверхскоплений.

Сознание есть космическое пробуждение, оно превращает нашу Вселенную из безмозглого зомби, лишенного самосознания, в живую экосистему, где присутствуют саморефлексия, красота, надежда, смысл и цель. Без этого пробуждения наша Вселенная была бы бессмысленной – этакой гигантской пустой тратой пространства. Если ей суждено однажды снова впасть в спячку из-за какого-то космического бедствия или катастрофы, спровоцированной изнутри, она снова станет бессмысленной.

С другой стороны, все может быть еще лучше. Мы не знаем, являемся ли мы, люди, единственными наблюдателями в космосе или даже первыми наблюдателями, но мы уже узнали о нашей Вселенной достаточно много, чтобы понять, что она способна пробудиться гораздо полнее, чем было до сих пор. Пионеры искусственного интеллекта, также как Норберт Винер, показали нам, что для дальнейшего пробуждения нашей Вселенной и ее способности обрабатывать и воспринимать информацию не нужны эоны дополнительной эволюции – вполне хватит, быть может, десятилетий человеческой научной изобретательности.

Возможно, человеческий разум сейчас представляет собой тот слабый проблеск самоосознания, который мы ощущаем, когда просыпаемся по утрам, лишь некое предвосхищение гораздо большего сознания, которое раскроется, когда мы распахнем глаза и пробудемся полностью. Возможно, искусственный сверхразум позволит жизни распространяться по всему космосу и процветать в течение миллиардов или триллионов лет; возможно, это произойдет благодаря тем решениям, которые мы примем здесь, на нашей планете – и при нашей жизни.

Или человечество может вскоре вымереть вследствие самоуничтожения, вызванного способностью наших технологий развиваться быстрее, чем мы с вами обретаем должную мудрость.

Текущие споры о влиянии ИИ на общество

Многие мыслители отвергают идею сверхразума как научную фантастику, поскольку они рассматривают интеллект как нечто загадочное, как нечто, присущее исключительно биологическим организмам – прежде всего людям, – и как фундаментальное свойство современного человека. Но с точки зрения физика, которым я являюсь, интеллект представляет собой конкретный способ обработки информации, выполняемый движущимися элементарными частицами, и нет такого закона физики, который гласил бы, что нельзя создавать машины, более разумные, чем люди, во всех отношениях и способные распространять жизнь в космосе. Словом, мы видим лишь верхушку айсберга в области интеллекта; налицо изумительный потенциал, позволяющий раскрыть весь спрятанный в природе разум и использовать его на благо человечества – а иначе мы исчезнем.

Другие, в том числе ряд авторов этой книги, отвергают создание ОИИ (общего искусственного интеллекта, то есть сущности, способной на любые когнитивные действия по крайней мере не хуже, чем люди) не потому, что считают подобное невозможным физически, а потому, что не верят в возможность создать что-то такое менее чем за столетие. Среди профессиональных исследователей ИИ оба типа «пораженцев» принадлежат к меньшинству – благодаря недавним открытиям. Велика вероятность того, что ОИИ будет создан в течение столетия, а медианный прогноз говорит о нескольких десятилетиях. В отчете исследователей ИИ Винсента Мюллера и Ника Бострома сообщается:

Результаты показывают, что, по мнению экспертов, системы искусственного интеллекта предположительно (вероятность более 50 %) достигнут человекоподобного уровня к 2040–2050-м годам, почти наверняка (вероятность 90 %) это произойдет к 2075 году. Сравнявшись с человеком, ИИ двинется дальше и превратится в сверхразум – через 2 года (10 %) или через 30 лет (75 %)[76].

С космической точки зрения не имеет значения, появится ОИИ через тридцать лет или через триста, поэтому давайте сосредоточимся на последствиях, а не на конкретных сроках.

Во-первых, мы, люди, узнали, как воспроизводить ряд естественных процессов с помощью машин, создавая собственную тепловую, световую и механическую «лошадиную силу». Постепенно мы осознали, что наши тела также являются машинами, а открытие нервных клеток стерло границу между телом и