компьютер. Если наблюдателя удается обмануть, значит, машина прошла тест. Энтузиасты искусственного интеллекта, вдохновленные Тьюрингом, давно доказывали, что общество должно принять такие искусственные интеллекты и даже наделить их «правами роботов».

Нейтан предлагает намного более сложный тест, чем у Тьюринга. Вооружившись огромным богатством и уединившись, он запрограммировал ряд андроидов, которые выглядят как женщины. Один из них – его личная ассистентка; другой – Ева, самая передовая модель. Нейтан устраивает в своей фирме конкурс: один программист-счастливчик должен провести неделю вместе с ним, чтобы протестировать Еву. В предложении содержится обман, поскольку, как выясняется позже, лицо и «тело» Евы (в основном похожее на человеческое, но с некоторыми прозрачными участками, позволяющими увидеть механические внутренности) основано на записи порнографических привычек Калеба, сделанной без его ведома[632]. Телесный тест Тьюринга в версии Нейтана определяется тем, сможет ли Ева подружиться с Калебом или соблазнить его.

Первое, что следует отметить в этих тестах Тьюринга, – как в классическом удаленном тесте, предложенном самим Тьюрингом (и проводимом по сей день в реальных опытах), так и в его фантастической версии, представленной в фильме «Из машины», – заключается в том, что они существенно сужают область имитации человека. Разговор по телефону – лишь относительно небольшое подмножество коммуникативного опыта, а коммуникация – небольшая часть человеческого опыта в его многообразии. Соблазнение на выходных – более сложная задача, но она не соответствует полному спектру романтической любви, не говоря уже о дружбе, заботе и доброте.

Конечно, в руках одаренного режиссера некоторое сочетание разговоров и романтики позволяет оживить искусственный интеллект. Фильм 2013 г. «Она» – поразительная картина все более правдоподобного будущего, в котором миллиарды разговоров записываются собирающими данные фирмами и государствами, а потом используются для проектирования операционной системы (ОС), которая симулирует остроумную и заботливую влюбленную или преданную подругу. В фильме показано, как ОС идет по пути самопознания, с радостью открывая философию Алана Уоттса, когда начинает «дружить» с другими искусственными интеллектами. В более реалистическом (хотя и дидактическом) фильме было бы показано или, по крайней мере, признано то, как ОС осмысляет волю инвесторов и программистов, которые финансировали и построили ее, или имеющиеся у ее программистов хитрые способы эксплуатации страхов и желаний партнеров по разговору.

Нам нужно общее четкое понимание того, кому, собственно, служат алгоритмы, прежде чем соглашаться на их повсеместное присутствие в нашей жизни. Также нам надо признать грубый оппортунизм, скрывающийся за большинством попыток повысить статус алгоритмов и роботов. В фильме «Из машины» Нейтан изображается в качестве мастера технологий, который хочет заполучить робота-компаньона, поскольку сам не может общаться с другими людьми. Драматическая линия фильма иногда застревает на довольно ходульных диалогах эмоционально выхолощенных героев (например, когда Нейтан прямо предсказывает вымирание человека). Тем не менее эта брошенная ненароком ремарка отображает главную проблему «Из машины». Действительно ли устаревание – наше наиболее вероятное будущее? Или такой фатализм объясним попросту нехваткой воображения?

Странная, совершенно телесная харизма Нейтана заряжает его футурологию пьянящим сочетанием экстатического пророчества и трезвого реализма. Рефлексия несколько сбивает ее воздействие. Конечно, мы бы сейчас могли предпринять некоторые меры, чтобы не допустить экономической «бесполезности» значительного числа людей (если повторить не слишком удачное выражение Харари)[633]. Мы могли бы направить развитие ИИ по новому пути, поставив его применение в зависимость от определенных принципов уважения человека.

Ключевой вопрос в том, почему мы не будем так делать. Откуда это столь распространенное не только в Голливуде или Кремниевой долине, но и в культуре в целом влечение к роботам, которые заменят людей, а не дополнят их? Ответ скрывается в определенных аспектах политической экономии XXI в., которые оказывают давление на секторы экономики, служащие реальным человеческим потребностям, и при этом чрезмерно разогревают те, что заняты исключительно утверждением богатства и господства одной корпорации или одних людей над другими. Планирование могло бы переломить эти тенденции, однако упомянутое влечение сегодня добилось триумфа, замаскировавшись в качестве идеологии прогресса, ведомого «невидимой рукой». Работы по автоматизации – социологические, экономические или правовые – должны обратить внимание на притягательность этого влечения, на то, что оно стало настоящей «второй природой» в дискурсе политических решений.

Последний прорыв

Фильм «Из машины» вырывается из оков подобных, заставляя нас подумать о непропозициональных аспектах языка – стратегиях манипуляции, сигналах, говорящих об уязвимости и признаках господства. В разговоре с гендиректором Нейтаном Калеб повторяет слова Роберта Оппенгеймера, который процитировал Бхагават-гиту: «Я стал смертью, разрушителем миров». Нейтан хвалит Калеба за оригинальность наблюдения, но тот добавляет, что это хорошо известное высказывание об атомной бомбе. «Я знаю, чувак», – отвечает Нейтан, но у нас возникает чувство неопределенности: то ли он говорит о бомбе, то ли о более широком смысле, вытекающем из этого сравнения. Как и значительная часть его высказываний,

его ответ скрывает беззаботность или снисходительность под панцирем обыденной лаконичности. «Это то, что есть. Это по-прометеевски», – заявляет Нейтан чуть позже, отсылая одновременно к библейскому выражению «Я есмь тот, кто я есть» и к любимому изречению спортсменов, которое обычно красуется на шкафчиках в раздевалке[634].

С точки зрения Нейтана, главный конструктор автоматов выступает богоподобным творцом следующего сапиенса, который будет править миром. Подобный взгляд может показаться слишком выспренним и странным. Однако и более скромные версии того же взгляда разделяются многими энтузиастами ИИ и лидерами технологической отрасли. Стремление к самодостаточности и неуязвимости помогает объяснить, почему после стольких скандалов, обвалов, разоблачений и мошенничеств не увял энтузиазм, связанный с криптовалютами[635]. Криптовалютный нарратив удовлетворяет глубинные психологические потребности в независимости и безопасности. Шифрование ставит на первое место чистую математику, представляемую в качестве надежнейшего основания секретности и конфиденциальности (отличного от социальных и правовых структур, которые определяют весь комплекс защиты данных), тогда как фанаты криптовалюты отстаивают блокчейн в качестве нерушимого, не подлежащего «цензуре» хранилища ценностей. Банк может лопнуть, правительство может отказаться от обещанных пенсий, а совершенный блокчейн может быть встроен в сам интернет, автоматически запоминаясь на столь большом количестве компьютеров, что его просто невозможно подорвать[636]. Некоторые убежденные сторонники криптовалюты представляют биткойн или эфириум в качестве последнего валютного бастиона, который сохранится даже спустя долгое время после того, как банкам перестанут доверять. Подобно богачам, хранящим золотые слитки в своих сокровищницах, они хотят, чтобы на богатство не влияли ни общество, ни политика. Они искренне верят в то, что разрабатывают валюту, которая гарантируется холодной эффективностью вычислительных систем, а не причудами менеджеров и бюрократов. Однако их цифровые сундуки с богатствами всего в одном шаге от уничтожения, если только они не защищены вполне человеческой правовой системой.

То