Старший консультант (и бывший главный редактор) New Scientist; автор книги «После оледенения: Жизнь, смерть и геополитика в Новой Арктике» (After the Ice: Life, Death, and Geopolitics in the New Arctic)

Высокий уровень интеллекта и теплые чувства к ближнему не очень хорошо сочетаются в сознании обывателя. Сверхразумные злодеи из фильмов о Джеймсе Бонде, жестокие и жаждущие мирового господства, — отличный пример. Поэтому неудивительно, что первой реакцией на фразу о мыслящих машинах становится вопрос о том, какие угрозы они несут человечеству.

То, что нам удалось узнать об эволюции своего интеллекта, тоже добавляет беспокойства. По мере того как люди эволюционировали, чтобы жить в более крупных социальных группах, чем у наших собратьев-приматов, совершенствовались и наши способности манипулировать другими и обманывать их, отличать друзей от врагов, вести учет добрых и злых дел, а также все прочие социальные навыки, необходимые для того, чтобы быть успешными индивидами. Результатом стал мозг большего размера и макиавеллианский интеллект[77].

Однако вряд ли можно утверждать, что мышление неразрывно связано с необходимостью конкурировать с другими и побеждать их только потому, что это было движущей силой эволюции нашего интеллекта. Мы можем создать искусственный разум — или разумы — без присущих человеческой природе пороков, у него вообще может не оказаться потребностей и желаний. Мышление не обязательно связано с коварством и вожделением, характерными для существа, которое эволюционировало прежде всего для того, чтобы выживать. Осмотритесь, и вы увидите, что сейчас повсеместно появляется как раз нейтральный тип ИИ.

Полезно не рассматривать интеллект с антропоцентристской точки зрения, ориентируясь только на наше особое человеческое мышление. Он развился у всех видов по одной и той же веской причине: он нужен, чтобы предугадывать будущее, он помогает разбираться с тем, чем оно грозит, — надо ли увернуться от камня или, если вы бактерия, заметить изменение питательности среды и выяснить, в каком направлении двигаться, чтобы получить наилучшие для себя результаты.

Если рассматривать интеллект в более общем понимании, то можно увидеть, что множество мощных искусственных разумов уже существуют. Возьмем климатические модели. Мы можем достаточно достоверно предугадать состояние всей планеты на десятки лет вперед и предсказать, как повлияют на будущее многие из наших действий. Климатические модели очень напоминают машину времени. Возьмем высокоскоростные компьютерные модели, используемые для работы на фондовом рынке: все они пытаются узнать ближайшее будущее раньше, чем остальные, и получить выгоду от этого знания. То же самое делают современные модели, оценивающие ваши онлайн-покупки: предсказывают ваши вероятные действия, чтобы получить выгоду от этого знания. С удовольствием покупая книгу из раздела «Рекомендовано для вас», вы попадаете в руки иному интеллекту, подталкивающему вас к тому будущему, о котором вы сами и не догадались бы, и знающему ваши вкусы лучше, чем вы сами.

Искусственный интеллект уже стал мощным и страшным, хотя можно спорить о том, стоит ли говорить о его мышлении. А мы ведь только начали! Практичный интеллект, в том числе роботизированный, будет понемногу прирастать еще долгое время и постепенно менять нашу жизнь, возможно, почти незаметно для нас. Он станет нашим продолжением, как другие наши инструменты. И он сделает нас еще могущественнее.

Нам нужно задуматься о том, кто будет владеть искусственным интеллектом, поскольку уже сейчас некоторые варианты его использования вызывают беспокойство. Нам не нужно беспокоиться по поводу самостоятельных машин, которые когда-нибудь станут мыслить так, как это делает человек. К тому моменту, когда будет построена разумная человекоподобная машина, если такое вообще когда-нибудь произойдет, она столкнется с людьми, обладающими макиавеллианским интеллектом и вооруженными всеми инструментами ИИ, которые, собственно, и дали возможность построить мыслящего робота. Испугается именно робот. Мы будем умными мыслящими машинами.

Мэри Кетрин Бейтсон

Почетный профессор Университета Джорджа Мейсона; приглашенный научный сотрудник Слоуновского центра изучения проблем старения и труда, Бостонский колледж; автор книги «Возраст активной мудрости: Будущее, которое мы сочиняем» (Composing a Further Life: The Age of Active Wisdom)[78]

То, что компьютеры выполняют действия, которые нам совершенно понятны, только быстрее и точнее, чем люди, — великое благо, а вот то, что мы их используем в ситуациях, которые понимаем не до конца, — отнюдь не благо. Мы не можем ожидать от программы эстетических суждений, сострадания или воображения, поскольку эти способности все еще остаются для нас загадкой даже тогда, когда их демонстрируют люди.

Мыслящим машинам, вероятно, предоставят самим принимать решения на основании того, что они якобы умеют. Например, мы теперь нередко видим письма, статьи или (чаще всего) курсовые работы, в которых предложенные программой исправления были приняты без надлежащей проверки: автор имел в виду «mod», а программа решила, что он подразумевал «mad»[79]. Как соблазнительно переложить принятие решений на машину! В переписке по электронной почте я как-то упомянула о встрече с одним человеком в Санта-Фе по пути в Техас, использовав слово «rendezvous», а компьютер решил выдать меня замуж и сообщил, что целью поездки являлось не что иное, как «render vows»[80]. Можно ли запрограммировать компьютер так, чтобы он поддерживал «семейные ценности»? Да вообще хоть какие-нибудь ценности? У нас уже есть дроны, которым можно задать определенное направление, и они сами будут выбирать цели, причем у них есть печальная склонность атаковать свадебные торжества, поскольку веселье, похоже, кажется им угрожающим. Мы наверняка можем запрограммировать электронный разум выписывать лекарства и медицинские процедуры, но маловероятно, что машины будут следовать правилу «Не навреди» лучше, чем люди.

Попытки создать мыслящие машины наверняка помогут нам разобраться в тех аспектах мышления, которые мы пока не до конца понимаем. Например, создание компьютеров на новом уровне показало нам, как важна точность в коммуникации. Возможно, мы лучше поймем, как на наши суждения влияют этнические предрассудки, и полнее разберемся в том, насколько следует полагаться на вероятности. Сколько решений будет основано на логике «Все так делают, значит, это нормально» или «Я обычный человек, мои действия ни на что не влияют»?