Но, по правде говоря, то, что мы думаем по этому поводу, не так уж важно; человечество на самом деле не контролирует ситуацию. Давным-давно — в 1901 году, когда родилась моя бабушка, — построить летающую машину было так сложно, что это не удавалось сделать никому. Теперь же необходимые технологии настолько доступны, что вы можете построить самолет у себя в гараже. Давным-давно — незадолго до моего рождения — мы не разбирались в структуре ДНК. Теперь же ученики начальной школы проводят эксперименты с ДНК. Пока технологий, необходимых для создания небиологического сознательного разума, нет. В определенный момент широко распространенные технологии обработки информации, вероятно, станут настолько сложными, что создание мыслящих машин будет не такой уж сложной задачей. Многие люди захотят создать кибернетический разум и/или стать им, невзирая на мнение остальных и на законы и правила, которые могут принять правительства в тщетных усилиях предотвратить такое развитие событий.

В конце концов, вся эта модная болтовня про кибернетическую революцию, часто называемую сингулярностью, настолько же безосновательна и категорична, что совсем не отличается от совершенно бесполезных споров, которые велись в 1800-х годах по поводу осуществимости, целесообразности и значения строительства механических летательных аппаратов. Что бы мы сейчас ни говорили, это не будет иметь особого значения, потому что если технология не появится, то сверхразумы не станут ни проблемой, ни преимуществом; а если технология появится, то, так или иначе, будут разработаны новые мыслящие машины, и они заберут планету себе, нравится нам это или нет.

Если такое случится, то вопрос будет не в том, что мы думаем по поводу мыслящих машин, а в том, что они думают по поводу старомодных человеческих разумов. Чего не нужно бояться, так это порабощения несчастных людей их кибернетическими преемниками. Люди слишком беспомощны и неэффективны, чтобы разумные роботы решили их эксплуатировать. Даже сейчас корпорации пытаются сократить число работников, избавляясь от приматов с большим мозгом. Для человеческих разумов останется один способ избежать устаревания: слиться с кибернетической цивилизацией, загрузив исчерпавший лимит роста биологический мозг в быстро развивающийся кибернетический. Это, может быть, и к лучшему. Если высокоразвитый интеллект сумеет выбраться из миллиардов человеческих тел, тяжелым бременем висящих на экосистеме планеты, биосфера вполне может снова стать такой же живой, какой была до нашего появления.

Андриан Крейе

Редактор научного раздела немецкой ежедневной газеты Süeddeutsche Zeitung (Мюнхен)

Находящаяся за рамками серьезных научных обсуждений широкая общественная полемика по поводу мыслящих машин сильно перегружена новой мифологией. В ней есть две основные догмы. Первая состоит в том, что в момент сингулярности пробудится некий синтетический дух, значительно превосходящий по силе человеческий разум. Вторая пугает нас тем, что мыслящие машины одержат верх над человечеством и в конечном счете уничтожат его. При этом обе догмы игнорируют тот факт, что в основе полемики лежит история Джона Генри.

В фольклоре конца XIX века есть персонаж — молотобоец Джон Генри, который погиб, победив в состязании с паровым молотом во время строительства Западно-Виргинской магистрали. «Белые воротнички» и работники умственного труда сейчас сталкиваются с тем, что машины превосходят их в эффективности благодаря развитию искусственного интеллекта. В данном случае ИИ по большей части — синоним цифровой производительности. Все это, конечно, не столь увлекательно, как ожидание сингулярности или конца света. В то же время реальное положение дел с ИИ не так приятно, как представление о том, что если правильно пользоваться машинами, то они всегда будут верно служить своим хозяевам.

Антиутопические взгляды на ИИ, излагаемые в фильмах и книгах, столь же обманчивы. Такие идеи редко связаны с наукой или технологией; в основном люди исходят из собственной природы. Большинство вариаций на тему воображаемого владычества машин проецирует на них человеческий страх перед злом и жестокостью. Машины просто выступают в качестве символа извечного неконтролируемого стремления к самосовершенствованию, усилению и неограниченному развитию.

Перевод полемики в плоскость теологии превращает оптимизм по поводу технологического прогресса в теорию спасения. Как уже неоднократно подтверждено, вероятность появления синтетического духа нулевая. Искусственный интеллект может оказаться случаем наиболее быстрого нарастания сложности в науке и технологии. Но он все еще имитирует человеческую природу и продолжит делать это и дальше. Прежде всего, ему не хватает времени. Искусственный интеллект не может позволить себе роскоши потратить несколько миллиардов лет на работу методом проб и ошибок. Верить в близящийся момент сингулярности, когда ИИ выйдет из под контроля человека и превзойдет его интеллектуально, — то же самое, что верить в технологическое Вознесение. Такие мифы могут быть популярны в островных мирах типа Кремниевой долины. Реальность искусственного интеллекта иная. И она уже здесь.

Искусственный интеллект сегодня глубоко затронул миллиарды людей. И пока главный результат — это улучшение нашей жизни благодаря множащимся цифровым помощникам. Вычисление решений покупателя, паттернов поведения и даже рыночных изменений все-таки больше относится к сфере статистики, чем к мышлению. Однако и эти грубые формы не стоит ни недооценивать, ни переоценивать, даже если настоящий момент Джона Генри еще не наступил. Массы пролетариев всегда можно было заменить мерами по повышению производительности труда или более дешевой рабочей силой. А не существует рабочей силы дешевле и эффективнее, чем машина. Как и паровой молот в истории про Джона Генри, большинство цифровых инструментов лучше людей справятся с высокоспециализированными задачами. Конечно, спрос на мастерство и выдающийся талант никуда не денется. Никакой компьютер не заменит ученого, художника, изобретателя. За бортом останутся «белые воротнички».

По мере роста эффективности и числа навыков искусственного интеллекта он также станет инструментом власти. С наружным наблюдением, военными действиями и пытками лучше справляются сущности, не склонные к эмоциям, конфликтам ценностей или усталости. Однако опасность того, что враждебные или даже смертоносные машины выработают у себя злонамеренное сознание и обратятся против человечества, равна нулю. Свободой воли будут обладать только институты и организации, которые станут использовать ИИ — с добрыми или злыми намерениями.

Не нужно дожидаться появления сверхинтеллекта для того, чтобы превратить абстрактную полемику об искусственном интеллекте во вполне реальные вопросы по поводу власти, ценностей и социальных изменений. Технология может инициировать развитие исторических изменений; сама она никогда не станет такими изменениями. История Джона Генри XXI века не будет ни героической, ни интересной. У «белых воротничков» нет способов красиво уйти или сражаться до последнего. У нас не будет народных героев, погибающих в бизнес-центрах. Современный Джон Генри просто растворится в общей статистике. Несомненно, вычисленной современной мыслящей машиной.