и развитием идеи роботов и искусственного разума эта аналогия между чудовищем Франкенштейна и угрозой, которую несут машины, постоянно видоизменялась и усиливалась.

Примитивный робот Мистер Телевокс корпорации «Вестингауз», способный реагировать на команды, поданные в дистанционном режиме, и даже разговаривать.

Распространенная в наше время ассоциация франкенштейновского монстра с роботами весьма спорна, так как значительная часть проблемы, связанной с творением Виктора, состоит в том, что оно как раз является не машиной, но живым созданием из плоти и крови. Ключевой темой, объединяющей их, является автоматизация, которая, как мы видим (см. главу 4), захватила воображение человека эпохи романтизма, подогретое гипнотическим трансом, сомнамбулизмом, изощренными машинами и механистической угрозой традиционному виталистическому мировоззрению.

Эта связь находит наиболее яркое отображение не в романе, в котором монстр скорее автономен, нежели автоматичен, а в театральных постановках и экранизациях, наиболее причастных к пропаганде мифа о Франкенштейне. Как только монстр превратился в безответного обвиняемого, его человеческая сущность померкла, оставив лишь робота. Культовая адаптация Universal Pictures 1931 года закрепила эту версию монстра с помощью плоской головы Бориса Карлоффа, металлических болтов в шее (на самом деле служивших местом крепления электродов) и походки робота. Чтобы Карлоффу было легче изображать неестественные, механические движения, он прикрепил к спине металлический стержень, поэтому считается, что работавшие над фильмом дизайнеры могли почерпнуть вдохновение для своей версии во внешнем виде Мистера Телевокса – механического человека, разработанного инженерами корпорации «Вестингауз» в 1920-е годы.

Дьявольская раса

Таким образом, самыми успешными и заметными потомками монстра являются андроиды – человекообразные роботы, персонажи бесчисленных историй, в которых машины обретают независимость и выходят из-под контроля или по крайней мере угрожают своим создателям. Однако аналогия с франкенштейновским монстром в некотором смысле вернулась к истокам в самом современном проявлении.

В главе 20 Виктор мучается сомнениями по поводу женщины – подруги, которую он согласился создать для монстра, предвидя ужасные последствия, так как «одним из первых результатов привязанности, которой жаждет демон, будут дети, и на земле расплодится целая раса демонов, которая может создать опасность для самого существования человеческого рода». Это мрачное предсказание удивительно точно отражает современные страхи перед машинами, которые принимают две формы: во-первых – угрозу самовоспроизведения машин и «серой слизи», а во-вторых – угрозу сингулярности.

Концепция «серой слизи» впервые был предложена доктором Эриком Дрекслером, одним из отцов нанотехнологий, в его книге «Машины создания», написанной в 1986 году. Дрекслер описал гипотетический сценарий, в котором наномашина – крошечная машина с деталями размером с молекулу – способна к самовоспроизведению: она может собрать собственную копию из компонентов, которые имеются под рукой. Такая машина будет самовоспроизводиться экспоненциально: одна машина создаст собственную копию, которая создаст еще две, каждая из которых создаст еще по одной, и их из четырех станет восемь, шестнадцать и так далее. Чтобы произвести миллион машин, потребуется только 20 поколений, а для миллиарда – 30. Единственным ограничением для воспроизводства будут ресурсы: если машинам не хватит деталей, они не смогут больше воспроизводить себя.

В сущности, так и работает вирус, используя ресурсы хозяина для экспоненциального воспроизводства до тех пор, пока хватит ресурсов. Однако вирусы должны быть высокоспецифичными, чтобы попасть в тело хозяина; кроме того, они весьма уязвимы и с трудом выживают, долго находясь вне особых условий (то есть клеток хозяина). Это ограничивает их диапазон и распространение и не дает им завоевать планету. Наномашины же могут не бояться этих ограничений. Они могут быть изначально прочными и универсальными, что позволит им действовать в широком диапазоне условий, при этом их искусственный характер может означать, что иммунная система не сможет справиться с ними.

Если бы наномашины были достаточно смышлеными, они смогли бы добывать необходимые компоненты из более сложных веществ, расщепляя их. И на этом этапе они стали бы невероятно опасными, потому что легко могли бы «поглотить» другие вещества. Самовоспроизводящиеся наномашины наверняка были бы созданы из органических молекул, поэтому «целью» этих машин стали бы все органические вещества, то есть все живое на Земле. И, будучи достаточно активными и стойкими, они бы размножались достаточно быстро, чтобы преодолеть любую защиту, и в конечном итоге превратили бы все органические вещества – в том числе людей, животных, растения, планктон, микроорганизмы, почву, полимеры, древесину, ткани и даже полезные ископаемые – в наномашины. В итоге на Земле осталась бы вода, а в ней масса наномашин, напоминающая серую слизь на поверхности планеты.

Вызов демона

Сингулярность – это гипотетическая кульминация совершенно другого вида эволюции машин. Наноботы – это лишенные разума физические создания, в то время как искусственный интеллект, или ИИ, подразумевает разум без тела. Уже с момента появления электронных компьютеров в конце Второй мировой войны велись споры об искусственном интеллекте, а в 1965 году английский математик Ирвинг Джон Гуд опубликовал свою основополагающую работу «Размышления о первой ультраразумной машине», предсказывая неминуемое появление сверхчеловеческого разума:

«Определим ультраразумную машину как машину, способную намного превзойти человека в любой интеллектуальной деятельности, каким бы умным он ни был. Поскольку конструирование машин – это одно из интеллектуальных действий, ультраразумная машина способна конструировать все более совершенные машины; затем, бесспорно, произойдет „интеллектуальный взрыв“, и человеческий разум останется далеко позади. Таким образом, первая ультраразумная машина – это последнее изобретение, которое потребуется от человека».[21]

То, что Гуд назвал «интеллектуальным взрывом», Вернор Виндж, специалист в области вычислительной техники и писатель-фантаст, окрестил сингулярностью, позаимствовав этот термин из описания участвовавшего в создании водородной бомбы ученого Станислава Улама его разговора с венгеро-американским математиком, физиком и компьютерщиком Джоном фон Нейманом:

«Один разговор был посвящен ускоренному прогрессу технологий и изменениям в образе жизни человека, что создает видимость приближения к некоторой существенной необычности в истории человечества, после которой человеческое бытие в известном нам виде не сможет продолжаться».[22]

Некоторые видят в сингулярности утопическое событие, способное привести к фантастическому будущему и вечной жизни, в то время как другие мрачно предостерегают, что подлинный искусственный интеллект несет экзистенциальную угрозу и что сингулярность может означать конец человеческой расы. Пророки Иеремии – или Кассандры, в зависимости от оценки точности их предсказаний – насчитывают в своих рядах многих выдающихся деятелей науки и техники, таких как, к примеру, Стивен Хокинг и Илон Маск. Так, Хокинг был одним из авторов статьи, предупреждавшей: «Успех в создании ИИ будет величайшим событием в истории человечества. К сожалению, он может стать и последним, если мы сейчас не научимся