«XCR устроен таким образом, что, если его ударить с достаточной силой, полученный электрический сигнал разворачивает его в обратном направлении – это реакция избегания, соответствующая боли, – говорит Хайконен. – Робот также способен примитивно обучаться». Если в момент удара в поле зрения робота оказался синий объект, робот будет ассоциировать синий цвет с болью и отступит, произнося «Мне больно, синий плохой». Попробуйте снова подтолкнуть его к синему объекту, и он даст задний ход. “Синий, плохой”».

С развитием достижений в робототехнике обучение избеганию синих объектов не является чем-то сверхвыдающимся: с этим справляются и обычные роботы на базе программного обеспечения. Но тот факт, что XCR обходится без программного обеспечения, храня сенсорную информацию непосредственно в своем аппаратном обеспечении, делает его первым шагом на пути к осознанию, утверждает Хайконен.

Если он прав, и мы не можем создать чувствующую машину на основе программного обеспечения, тогда какой бы большой не была сеть, она никогда не сможет стать разумной. Но мозг в колбе, подключенный к симуляции суперкомпьютера, – классический мысленный эксперимент из философии – может.

Итак, если бы мы создали процессор, управляющий вниманием в роботе, могли бы мы теперь сказать, что он может чувствовать, как и мы? И снова чего-то не хватает. Здоровые люди обладают самостью, собственным «я»: у них есть «я», переживающее некое чувство. Если бы робот был способен обращать внимание на то, что необходимо обработать, при этом по-прежнему не зная о своем собственном существовании, он, несомненно, ничего бы не испытывал.

Создание чувства собственного «я» у робота может быть достижимее, чем вы думаете. Существует много уровней знания о себе. Амеба способна не есть саму себя, иными словами, на базовом уровне она может отличить себя от других вещей. На более высоком уровне белка прячет свои орехи так, чтобы другие белки не смогли их найти. Это показывает, что белка с точки зрения своих собственных целей отличает себя от других белок. И, наконец, люди – и, возможно, собаки, дельфины, приматы – имеют более высокий уровень знаний о себе, который можно назвать знанием о знании себя, что порождает более сложные явления, такие как эмпатия, убеждения, желания и мотивация. Создание всего этого в роботах ближе, чем может показаться (см. далее).

Нау, робот с самосознанием

В 2015 году в лаборатории робототехники на восточном берегу реки Гудзон, штат Нью-Йорк, трем маленьким человекоподобным роботам задали головоломку.

Им сказали, что двум из них дали «таблетку немоты», лишившую их возможности говорить. В реальности нажатие специальной кнопки лишало их дара речи, но никто из них не знал, какой робот все еще может говорить. Это и было той проблемой, которую они должны были решить.

Неспособные решить задачу, все роботы попытались сказать: «Я не знаю». Но только один из них при этом издал звук. Услышав свой собственный голос, он понял, что он не был лишен возможности говорить, и произнес: «Прошу прощения, теперь я знаю! Я смог доказать, что мне не дали “таблетку немоты”». Затем он вывел формальное математическое доказательство и сохранил его в своей памяти, чтобы доказать, что понял.

Это первый случай, когда робот смог пройти классический тест, известный как загадка мудрецов. Тест похож на простой, и это действительно так. Но демонстрация того, что роботы – в данном случае, серийные модели Нау – могут решать логические головоломки, требующие элемента самосознания, стала важным шагом для создания машин, которые будут понимать свое место в мире.

Проводивший эксперимент Сельмер Брингсйорд из Политехнического института Ренсселера в Нью-Йорке утверждает, что, пройдя через множество испытаний такого рода – пусть и ограниченных, – роботы создадут репертуар способностей, которые станут полезными. Вместо того чтобы мучительно раздумывать над тем, смогут ли машины когда-нибудь обладать человеческим сознанием, Брингсйорд стремится продемонстрировать конкретные, ограниченные образцы сознания.

Для решения загадки мудрецов нужны некоторые очень человеческие черты. Робот должен уметь слушать и понимать заданный человеком вопрос «Какую таблетку ты получил?». Затем он должен услышать свой собственный голос, говорящий «Я не знаю», понять, что говорит именно он, и связать это с идеей о том, что он не получил таблетку молчания.

В этом конкретном случае роботы Брингсйорда могут казаться сознательными, оценивая свое собственное состояние и делая вывод. Но более широкий и глубокий интеллект, которым мы, люди, обладаем, здесь полностью отсутствует. Роботы Нау способны решить загадку мудрецов, но неспособны узнать собственные ноги.

Брингсйорд говорит, что одна из причин, по которой роботы не могут иметь более широкое сознание, состоит в том, что они просто не могут обработать достаточное количество данных. Хотя камеры могут захватить больше данных о сцене, чем человеческий глаз, робототехники не могут понять, как объединить всю эту информацию в связанную картину мира.

Тест также проливает свет на то, что для человека значит быть сознательным. По мнению Брингсйорда, то, что есть у человека и чего никогда не будет у робота, это «феноменальное» сознание; «непосредственное переживание сознательной мысли», как это называет Джастин Харт из Университета Британской Колумбии в Ванкувере. Тест демонстрирует тонкую разницу между действительным переживанием восхода солнца и простым наличием зрительных нейронов коры, активирующихся для отображения восхода солнца. Без этого роботы – всего лишь «философские зомби», способные имитировать сознание, но не обладающие им в действительности.

Однако даже обладающий всеми этими качествами, умный, чувствующий робот с самосознанием был бы по-настоящему сознательным, если бы смог убедить нас, что у него есть собственные внутренние переживания. Даже у людей представление о собственном «я» можно рассматривать как когнитивный или социальный конструкт. Философ Дэниэл Деннет называет это нарративом (рассказом, создаваемым человеком): мы рассказываем истории о нашей собственной внутренней жизни и о жизни других. Почему же это представляется таким реальным? Рассмотрим другие виды культурных конструктов, например деньги. Деньги – это история в том смысле, что мы все согласились относительно ценности определенных листков бумаги и определенных кусочков металла. Если бы мы не согласились с тем, что они имеют ценность, они бы ничего не стоили. То же самое касается и чувства собственного «я»: хотя это всего лишь история, для нас она совершенно реальна.

То же самое можно сказать и о чувствующем, осознающем себя роботе. Поскольку роботы умнеют и все больше и больше становятся частью нашего – и, возможно, своего собственного – общества, они также смогут сказать о себе, как и о нас, что они обладают сознанием. И в этот момент они будут чувствовать себя так же, как и мы. Конечно, будут и различия, потому что у них другие тела, другие способы взаимодействия, но их «чувства» будут так же реальны для них, как и наши – для нас. Чувствующие роботы будут жить среди нас, и, возможно, раньше, чем мы думаем.