Джонатан Готтшолл

Старший научный сотрудник отделения английского языка в Колледже Вашингтона и Джефферсона; автор книги «Животное, которое рассказывает истории» (The Storytelling Animal)

Умение рассказывать и понимать истории — главная отличительная черта человеческого ума. Если принять это, становится понятно, почему в стремлении к более совершенной вычислительной теории человеческого разума исследователи пытаются научить компьютер рассказывать и понимать истории. Но надо ли нам пожелать им успеха в этом начинании?

Учебники по писательскому мастерству всегда делают упор на то, что писать хорошие истории — значит сначала их прочитать, и прочитать много. Начинающим авторам советуют погрузиться в великие истории, чтобы постепенно выработать глубокое, не обязательно осознанное понимание того, как они работают. Люди учатся рассказывать истории, изучая то, как это делали когда-то давно, а потом — если у них достаточно воображения — делают так, чтобы старые истории выглядели новыми. Несложно представить, как компьютеры в совершенстве овладевают этим умением в ходе такого процесса погружения, ассимиляции и рекомбинации, только намного-намного быстрее.

На данный момент практические эксперименты со сгенерированными компьютерами историями не сильно впечатляют. Это корявые, скучные и пресные тексты. Но способность человека создавать произведения искусства и испытывать наслаждение от их созерцания эволюционировала в ходе многих и многих веков, от самых примитивных форм; так же будут эволюционировать и машины, только намного, намного быстрее.

Когда-нибудь роботы захватят весь мир. Антиутопические варианты меня беспокоят не так сильно, как возможное появление машин, создающих искусство. Искусство — это то, что, по-видимому, отличает людей от прочих тварей. Это то, что позволяет нам так гордиться собой. При всех мерзостях, встречающихся в истории человечества, по крайней мере, мы написали несколько действительно хороших пьес и песен, изваяли кое-какие сто́ящие скульптуры. Если человеческие существа больше не будут нужны для того, чтобы создавать искусство, то на кой черт они вообще будут нужны?

И все же стоит ли мне расстраиваться? Почему мир, в котором появится больше великих произведений искусства, должен обязательно стать хуже? Может, и не станет. Но эта мысль все равно меня печалит. Хоть я и считаю себя непримиримым материалистом, наверное, и у меня есть некая предательская надежда на дуализм тела и духа. Я хочу верить в то, что эволюционирующих по определенному плану алгоритмов и грубой вычислительной мощности недостаточно и что творчество всегда останется загадочным и магическим процессом или, по крайней мере, настолько сложным, что его нельзя будет механически скопировать.

Конечно, машины могут нас перевычислять и перегнать. Очень скоро они с легкостью будут проходить тест Тьюринга. Но кому какое дело? Пусть они делают всю свою сложную работу. Пусть они общаются, болтают. Но когда машины смогут писать картины и музыку лучше, чем мы, и когда их истории станут более захватывающими и трогательными, чем наши, нельзя уже будет отрицать того, что и мы сами — всего лишь мыслящие и создающие искусство машины, к тому же морально и физически устаревшие.

Майкл Шермер

Психолог, историк науки; издатель журнала Skeptic; автор книги «Моральная дуга: Как наука и разум ведут человечество к истине, справедливости и свободе» (The Moral Arc: How Science and Reason Lead Humanity Toward Truth, Justice, and Freedom)

Сторонники искусственного интеллекта склонны представлять себе утопическое будущее, в котором добродушные компьютеры и роботы будут служить человечеству и дадут нам возможность достичь неограниченного благосостояния, покончить с бедностью и голодом, победить болезни и смерть, достичь бессмертия, колонизировать Галактику, а когда-нибудь даже покорить всю Вселенную и достичь точки Омега[53], где мы станем богом — всеведущим и всемогущим. Скептики видят антиутопическое будущее, в котором злобные компьютеры и роботы нас всех завоюют, сделав своими рабами, или же станут нас подавлять и тем самым остановят или даже повернут вспять научный и технический прогресс.

Большая часть таких пророчеств основана на ложной аналогии между сущностью человека и компьютера (или природного и искусственного интеллекта). Мы — мыслящие машины, результат естественного отбора, которым в нас также заложены эмоции, позволяющие экономить мыслительные усилия. Нам не нужно вычислять энергетическую ценность пищи — мы просто чувствуем, что голодны, и едим. Нам не нужно вычислять пропорциональность талии по отношению к бедрам или плеч по отношению к талии, когда мы смотрим на потенциальных партнеров, — мы просто чувствуем влечение к человеку и вступаем с ним в связь. Нам не нужно разбираться в генетических рисках воспитания чужого потомства, если наш партнер нам изменяет, — мы просто чувствуем ревность. Нам не нужно оценивать вредоносное воздействие неравноценного обмена — мы просто чувствуем несправедливость и желаем отомстить. Все эти эмоции встроены в нашу сущность эволюцией; ни одна из ник не встроена в компьютеры. Потому страх того, что компьютеры станут злодеями, безоснователен, так как им никогда в голову не придет предпринимать против нас подобные действия.

Кроме того, и утопическое, и антиутопическое ви́дение искусственного интеллекта основывается на такой проекции будущего, примеров которой в нашей истории никогда не было. Вместо утопии или антиутопии следует думать о протопии — термин придумал футуролог Кевин Келли, который описывает его в своем выступлении на Edge следующим образом: «Я называю себя протопистом, а не утопистом. Я верю в постоянство прогресса, при котором каждый год лучше предыдущего, но это не очень значительные, а микроскопические улучшения»{7}. Практически весь прогресс в науке и технологии, включая компьютеры и искусственный интеллект, имеет протопическую природу. Редко случается так, если вообще случается, что технологии приводят к возникновению утопического или антиутопического будущего.

Взять хотя бы автомобиль. Моя первая машина — «Форд Мустанг» 1966 года. У него был усилитель руля, гидроусилитель тормозов и кондиционер, что по тем временам считалось за относительно передовые технологии. Каждая машина, что я покупал с тех пор, параллельно со всеобщей эволюцией автомобилей оказывалась умнее и безопаснее, но изменения были не революционными, а постепенными. Вы, возможно, помните, как в 1950-х любили порассуждать о скачке́ от наших драндулетов до летающих автомобилей. Ничего такого не произошло. Вместо этого мы получили накапливающиеся в ходе целых десятилетий усовершенствования, которые привели к появлению современных «умных» машин с бортовыми компьютерами и навигационными системами, подушками безопасности, рамами и кузовами из композитных материалов, спутниковыми приемниками, возможностью подключения телефона, электрическими и гибридными двигателями. Я только что сменил «Форд Флекс» 2010 года на ту же модель, но в версии 2014 года. Внешне они почти не отличимы, внутри — десятки небольших улучшений в каждой системе, от двигателя и трансмиссии до навигации, климат-контроля, звуковой системы и компьютерного интерфейса.