Компьютер, достигший славы в примитивной аркадной игре, прошел долгий путь становления от HAL 9000. Что до сих пор не удалось освоить нейронным сетям – так это процесс иерархического принятия решений, по которому для достижения поставленной задачи требуется заглядывать дальше, чем на несколько шагов вперед.

– Подумайте о решениях и действиях, которые привели вас сегодня ко мне в кабинет, – сказал Стюарт так тихо, что мне пришлось подкатить свое кресло к столу и наклониться в его сторону. – На уровне элементарных движений, под которыми я подразумеваю действия ваших мышц, пальцев и языка, ваш путь из Дублина в Беркли стал результатом выполнения порядка пяти миллиардов действий. Но действительно важно то, что именно люди способны делать в реальном мире, в отличие от мира компьютерной игры или шахматной программы: они могут планировать действия на более высоком уровне. Поэтому вместо того, чтобы размышлять, следует вам перемещать этот палец или другой в определенном направлении и на это расстояние, вы решаете, полететь ли в Сан-Франциско на United или British Airways и что вам стоит сделать потом, заказать такси Uber или сесть на поезд через залив в Беркли. Вы способны думать очень крупными блоками, и таким образом вы можете создавать структуры, которые охватывают миллиарды физических действий, большинство из которых полностью бессознательны. Иерархическая структура принятия решений – ключевое звено цепи человеческого интеллекта, и нам еще предстоит выяснить, как реализовать его на компьютерах. Это точно возможно, и как только мы достигнем этого, то сделаем еще один значительный шаг к достижению искусственным интеллектом человеческого уровня.

После возвращения из Беркли мне стало казаться, что искусственный интеллект развивается семимильными шагами. Я открывал Twitter или Facebook, где мои ленты новостей, управляемые силой скрытых алгоритмов, содержали тревожную информацию о том, что очередная область человеческого труда без боя сдана машине. Я читал, что в лондонском Вест-Энде собирались поставить мюзикл, полностью написанный искусственным интеллектом, которого назвали Android Lloyd Webber[8]. Я читал, что искусственный интеллект AlphaGo, тоже работа компании DeepMind от Google, выиграл у гроссмейстера-человека в игре Го – древней китайской стратегической настольной игре, которая с точки зрения вероятностей была гораздо сложнее шахмат. Я читал, что книга, написанная компьютерной программой, прошла первый этап японской литературной премии, открытой для произведений, написанных людьми и искусственным интеллектом, и вспомнил о футуристе, с которым беседовал в пабе в Блумсбери после разговора с Андерсом, и о его предположении, что все чаще литературные произведения будут писаться роботами.

Мое отношение к этому не было однозначным. С одной стороны, меня больше беспокоила перспектива чтения такой книги или просмотра такого произведения, чем роль компьютерных романов и мюзиклов для будущего человечества. Также я не испытывал особой гордости за первенство моего вида в настольных стратегических играх, и поэтому меня не волновала победа робота AlphaGo – это пример быстрого и подробного просчета вариантов и сложного алгоритма поиска, в которых компьютеры и так всегда были хороши. С другой стороны, разумно предположить, что роботы будут совершенствоваться: их мюзиклы в Вест-Энде и научно-популярные книги со временем перестанут быть такими отстойными. Машины смогут выполнять все более сложные задачи все более и более эффективно.

Время от времени мне казалось, что вся эта идея экзистенциального риска была нарциссической фантазией всевластия, грандиозным заблуждением программистов, технических предпринимателей и других замкнутых эгоцентричных гиков, что судьба человечества в их руках: абсурдная двоичная эсхатология, в соответствии с которой мы будем либо уничтожены злым кодом, либо сохранены добрым. В подобные моменты все это выглядело ребячеством, и стоило задуматься о конкретных случаях идиотизма особого рода умов.

Но были моменты, убедившие меня в том, что я заблуждаюсь и что, например, Нейт Соареc был абсолютно и ужасающе прав: тысячи самых умных людей планеты проводили свою жизнь, используя самые сложные технологии в надежде создать нечто, что уничтожит нас всех. Это представлялось хоть и достаточно маловероятным, но на каком-то интуитивном уровне поэтически, мифологически правильным. В конце концов это то, что мы всегда делали как вид – создавали гениальные устройства и уничтожали их.

Вечером 25 января 1921 года в Праге люди познакомились с роботами, которым теперь было предначертано уничтожить все человечество как вид. Это событие произошло на премьерном показе научно-фантастической пьесы «Россумские универсальные роботы» (сокращенно «R.U.R.») Карела Чапека в Чешском национальном театре. Тогда же впервые прозвучал термин «робот», производное от чешского «robota», что значит «принудительный труд». Слово быстро вошло в повсеместное употребление, сближая научную фантастику и капитализм. Визуально роботы Чапека имеют не так много общего с более поздними, каноническими блестящими металлическими гуманоидами (от «Метрополиса» Фрица Ланга до «Звездных войн» Джорджа Лукаса и «Терминатора» Джеймса Кэмерона) и больше похожи на убедительных репликантов из фильма «Бегущий по лезвию». Они практически неотличимы от людей; они – существа не из схем и металла, а из плоти или подобной ей субстанции, произведенной в несколько этапов в пробирках из таинственного соединения, так называемого «теста». Сама пьеса – это странная вязкая смесь научной фантастики, политической аллегории и социальной сатиры, чьи полемические намерения лежат на границе критики капиталистической жадности и антикоммунистического страха перед организованной толпой.

Роботы Чапека – это «искусственные люди», созданные с целью повышения производительности труда. Своим появлением они обязаны угнетающе ограниченному взгляду на предназначение человека через призму обогащения. В первой сцене пьесы Домин, менеджер завода по производству роботов, произносит поучительный монолог о том, как изобретатель этих машин, Россум, придумал «упрощенного работника с минимальными потребностями. Он отбросил все, что не было связано непосредственно с работой – таким образом он почти полностью исключил Человека и создал Робота». Эти роботы, подобно монстру Франкенштейна, были готовы немедленно приступить к работе. «Человек – безнадежно несовершенная машина, – объяснял Домин. Природа не принимает современных темпов жизни. С технической точки зрения детство – полный бред. Просто потеря времени».

Неприкрытая идеология, стоящая у истоков создания таких роботов, в своей противоречивой смеси безжалостной глобализации и мессианской риторики сегодня наводит на размышления о технологическом прогрессивизме Силиконовой долины и о смелых предсказаниях о развитии искусственного интеллекта. Домин, сидящий за «большим американским столом» на сцене с плакатами, на которых красуются лозунги вроде «Самый дешевый труд – роботы Россума», утверждает, что эта технология полностью искоренит бедность, и, хотя люди останутся без работы, ведь все будет производиться машинами, они будут вольны жить в стремлении к самосовершенствованию. «О, Адам, Адам! – говорит он. – Тебе больше не придется зарабатывать на хлеб в поте лица; ты возвратишься в рай, где будешь кормиться с рук Господа».