Чтобы ответить на вопрос Edge 2015 года, надо сначала побольше узнать о том, кто мы такие. Потому давайте сперва поговорим о самом важном нашем органе — о мозге. Упрощенная схема этого сложного образования делит его на три части: кора (отвечает за рассудочные процессы), лимбическая система (обеспечивает работу различных функций организма, включая эмоции и мотивацию) и рептильный мозг (где располагаются самые элементарные и примитивные стремления: выживание и размножение).

Полемика вокруг того, как нам понять мыслящие машины, больше тяготеет к нашей коре и к лимбической системе. Кора позволяет нам более тщательно оценивать рентабельность ИИ в отношении таких вещей, как приблизительная стоимость для бизнеса человеческого или роботизированного труда, относительная стоимость человеческого и цифрового капитала, а также вопросы биоэтики, неприкосновенности частной жизни и национальной безопасности. Она также дает нам возможность планировать, привлекать больше финансирования для исследований и разработок, определять приоритеты государственной политики.

Одновременно наш лимбический мозг помогает принимать меры предосторожности и отвечать страхом или радостью на риски или выгоды развития искусственного интеллекта. Обычно мысль о нем вызывает одну из двух немедленных эмоциональных реакций: или технофобию, или восторг («Все наши проблемы решены!»). Среди распространенных страхов — опасение, что машины станут нами манипулировать или заменят нас; среди притягательных вещей — машинное расширение нашей памяти и помощь в повседневных делах.

Но мы также должны помнить о влиятельной — даже доминирующей — роли рептильного мозга в нашем мышлении. Это значит, что нам нужно осознать свои наиболее примитивные реакции, наш территориальный и эмоциональный подход к понятиям «мышление», «машина», «робот», «интеллект», «искусственный», «естественный» и «человек». Первостепенная задача рептильного мозга — выживание, и, хотя об этом не очень много говорят, стремление к выживанию лежит в основании наших надежд и страхов, связанных с мыслящими машинами. Когда мы изучаем древние архетипы, или литературу, или прогнозы в настоящей дискуссии, отраженной в вопросе Edge, постоянно проступает подсознательное и инстинктивное: рептильный бином — смерть против бессмертия.

Несомненно, у нас есть страх смерти, связанный с коллективным представлением о роботах, которые способны размножиться и, учитывая их интеллектуальное превосходство, предать и истребить своих создателей. Такие машины, видимо, представляют собой ужаснейшую опасность — уничтожение всего, что нам дорого. Но наш рептильный мозг также видит в них спасение; мы надеемся на то, что сверхразумные машины предложат нам вечную жизнь и вечную юность. Указания на такой способ мышления встроены в наш язык. Хотя в английском слова «robot» и «machine» лишены признака пола, в романских языках, а также в немецком есть разница: «el robot» — мужественный, опасный и грозный, тогда как «la máquina» — женственная, покровительственная и заботливая.

Иеремия Бентам определил человека как рациональное существо, но мы-то знаем, что мы не такие. Каждый из нас иногда действует иррационально, повинуясь силе рептильного мозга, а его стимулы были и остаются основой эволюции интеллекта. Чувство — вот что важнее всего в мышлении.

Машина, у которой скорость обработки данных возрастает по экспоненте раз в полтора года, которая обыгрывает естественный интеллект в шахматы, разбирая несметное количество вариантов развития игры ход за ходом, которая может точно поставить диагноз больному, — все это очень впечатляет, но все-таки мышлением мы называем другое. Чтобы исполнилась наша мечта о мыслящих машинах, машинам придется понимать ценности и ставить их под сомнение, переживать внутренние конфликты, испытывать дружеские чувства.

Когда мы думаем о мыслящих машинах, нам надо задавать себе рептильные вопросы, например: рискнули бы вы своей жизнью ради машины? Позволили бы вы роботу стать политическим лидером? Стали бы вы ревновать машину? Стали бы вы платить налоги, обеспечивающие благосостояние робота? Принесли бы вы тюльпаны на могилу своего робота? Или, что даже важнее, принесет ли ваш робот тюльпаны на вашу могилу?

Признание роли рептильного мозга в наших размышлениях об ИИ поможет яснее увидеть последствия и саму природу машины, которая способна искренне сомневаться и искренне действовать, а также то, к какому именно искусственному интеллекту нам надо стремиться. Если наша биология создала культуру как инструмент для выживания и эволюции, то сейчас наш естественный интеллект должен привести нас к созданию машин, которые чувствуют и имеют инстинкты; лишь тогда бессмертие победит смерть.

Ли Смолин

Физик-теоретик, Институт теоретической физики Университета Уотерлу (Канада); автор книги «Возвращение времени» (Time Reborn)[120]

«Мыслить» может означать «рассуждать логически», на что некоторые машины точно способны, хоть они и следуют запрограммированным нами алгоритмам. Или это может означать «иметь разум», под чем мы понимаем то, что машина воспринимает себя как субъект, обладающий сознанием, первичными ощущениями, опытом, намерениями, взглядами, эмоциями, воспоминаниями. Когда мы спрашиваем, может ли машина мыслить, на самом деле нас интересует, может ли существовать полностью натуралистическое представление о том, что такое разум. Я натуралист, так что полагаю, ответ должен быть утвердительным.

Конечно, нам до этого еще далеко. Что бы ни делал мозг для генерации разума, сомневаюсь, что он просто выполняет заранее записанные алгоритмы или что-то из того, что делают современные компьютеры. Нам, вероятно, еще только предстоит открыть основные принципы работы человеческого мозга. Подозреваю, что нельзя понять, как и зачем мы мыслим, не разобравшись, что такое наша жизнь — в физическом выражении. С созданием искусственного разума, вероятно, придется обождать.

Такое понимание должно разрешить то, что Дэвид Чалмерс называет трудной проблемой сознания: как объяснить наличие квалиа (первичных ощущений) в физическом мире? У нас есть причины полагать, что наше восприятие, скажем, красного цвета связано с определенным физическим процессом в мозге, но мы попадаем в тупик, потому что, видимо, невозможно объяснить в физических терминах, как или почему эти процессы дают начало первичным ощущениям.

Важным шагом на пути к решению проблемы будет помещение нашего описания физики в реляционный язык. Как отмечал Лейбниц, небесный покровитель релятивизма, свойства элементарных частиц зависят от их отношений с другими частицам. Эта идея оказалась очень удачной и была хорошо реализована в рамках общей теории относительности и квантовой теории; примем ее и мы.

Вторым шагом будет признание того, что события или частицы могут иметь свойства, не являющиеся реляционными — не описываемые исчерпывающей историей отношений, в которые они вступают. Назовем их внутренними свойствами.