Распространенность антибиотиков, спасающих много жизней, увеличила число устойчивых к лекарственным средствам инфекций. Исследование, проведенное в 2014 году британскими учеными, показало, что так называемые суперинфекции могут стать причиной 10 миллионов смертей ежегодно в общемировом масштабе к 2050 году, что потенциально будет стоить мировой экономике в 100 триллионов долларов США в год.

Экономические модели постоянно терпят крах из-за неверных предположений, ошибочных причинно-следственных связей, данных, которые на деле оказываются информационным шумом, и непредвиденного человеческого фактора. Прогнозы бывают неточными. В моделях постоянно недооцениваются риски и уязвимости, что приводит к финансовым кризисам.

2. Последствия применения технологий, особенно в долгосрочной перспективе, часто непонятны на начальном этапе.

Возможность использовать ископаемые виды топлива для обеспечения техники энергией стала основой Промышленной революции. Долгосрочное воздействие выбросов CO2 на окружающую среду теперь несет угрозу выживанию нашего вида. Теоретическая физика и математика позволили сконструировать ядерные и термоядерные устройства, способных уничтожить все живое на планете.

3. Технология создает моральные, этические, политические, экономические и социальные проблемы, которые часто игнорируются.

Технический прогресс привел к появлению ядерного, биологического и химического оружия массового уничтожения и беспилотных аппаратов с дистанционным управлением. Стоит ли вообще разрабатывать такие вещи? Простота доступа к необходимым знаниям, вопросы распространения технологий и проблемы в области контроля технологий двойного назначения (гражданского и военного) делают решение еще более сложным.

Роботы и ИИ способны повысить производительность. Хотя их немногочисленные создатели могут получить огромную выгоду, воздействие на экономическую активность будет ограниченным. Учитывая, что потребление составляет более 60 процентов экономической активности в развитых странах, снижение занятости и уровня доходов вредит экономике в целом. В начале 1950-х годов «Форд» построил новый автоматизированный завод. Начальник завода задал вопрос главе Профсоюза работников автомобильной промышленности Уолтеру Рейтеру, посетившему предприятие с официальным визитом: «Как вы планируете собирать профсоюзные взносы с этих ребят (с роботов)?» Рейтер ответил: «А как вы планируете сделать так, чтобы они покупали „форды“?»

Когда дело касается технологий, человечество редко ведет себя логично. Мы часто не признаем, что чего-то нельзя или не стоит делать. Прогресс принимается безоговорочно и без понимания того, что нам нужно знать и зачем. Мы не знаем, когда, где и как нужно использовать наши творения, не знаем пределов их возможностей. Часто не знаем реальных последствий или не сознаем их в полной мере. Сомневающихся сразу же называют луддитами.

Технология и ее проявления, такие как машины или ИИ, — это иллюзии, апеллирующие к человеческим амбициям и тщеславию, умножающие смятение, которое мы находим в «пустыне зеркал»[108] Томаса Стернза Элиота. Человек как вид попросту слишком мал, незначителен и нерационален, чтобы справиться с любой из задач, которые, как мы думаем, мы можем выполнить. Размышления о мыслящих машинах только подтверждают эту неприятную истину.

Роберт Сапольски

Нейробиолог, Стэнфордский университет; автор книги «Обезьянья любовь» (Monkeyluv)

Что я думаю о мыслящих машинах? Ну, я думаю по-разному — зависит от того, о ком конкретно идет речь.

Афина Вулуманос

Адъюнкт-профессор психологии Нью-Йоркского университета; ведущий исследователь лаборатории проблем детской познавательной психологии и общения Нью-Йоркского университета

Если мы не можем понять даже того, как мыслит двухлетний ребенок, или, раз уж на то пошло, ребенок, которому два дня от роду, машины, мыслящие как люди, не появятся еще несколько десятилетий. Но когда мы все же создадим машины, способные «думать», каким будет их мышление? Ответ на этот вопрос определит будущее человеческих сообществ.

Когда машины действительно начнут мыслить, первым делом мы избавимся от тяжелого физического труда; прощайте каждодневная готовка, походы за продуктами и в особенности уборка. Скоро мы опять окажемся в таком мире, где у богатых или образованных людей (тех, у кого есть доступ к новейшим технологиям) снова появится больше свободного времени.

Если машины когда-нибудь будут способны к сложному человеческому мышлению, то они также будут способны писать программы, выполнять значительную часть нашей работы, а возможно, даже создавать для нас произведения искусства. Но что тогда делать обычным людям? Появляется мрачная перспектива стать зомбированными потребителями в мире, которым правят машины, — картинка прямо из апокалиптического фильма про будущее.

Но есть и куда более оптимистичный прогноз: мы сможем больше времени уделять тем вещам, которые мы все время откладываем. Мы сможем чаще играть с нашими детьми и заниматься их обучением, больше общаться с родителями, выстраивать более надежные социальные сети из настоящих людей. Мы сможем больше времени уделять своим увлечениям, чаще подниматься в горы, осваивать новые навыки просто ради удовольствия. Мы сможем сосредоточить свою энергию на важных проблемах, до которых сейчас руки не доходят из-за рутинных дел и всяческих мелочей: на счастливой жизни, на самосовершенствовании и созидании справедливого мира — для людей и для умных машин.

Если машины мыслят как люди, людям придется хорошенько подумать о том, как реализовать эту последнюю перспективу. На одном позитивном мышлении нам до нее не добраться.

Брайан Кристиан

Автор книги «Самый человечный человек: как искусственный интеллект учит нас тому, что значит быть живым» (The Most Human Human: What Artificial Intelligence Teaches Us About Being Alive)

В незапамятные времена если мы хотели что-то узнать, то у нас не было иного выбора, кроме как обратиться к кому-нибудь за разъяснениями. Помню, когда я стал постарше, то часто спрашивал мать о значении незнакомых мне слов, и она всегда отвечала, лишь с долей иронии: «Я что, похожа на словарь?» Не думаю, что она рассчитывала стать аллегорией ИИ, но она привила мне смутно сознаваемое ощущение, что невежливо спрашивать у человека из плоти и крови то, что можно легко узнать, обратившись к предмету.

Так было несколько десятков лет тому назад. В настоящем мы тоже подсознательно усвоили этот принцип. Когда мы спрашиваем у кого-то дорогу, то обычно в явной или неявной форме выражаем следующую мысль: «Простите, что низвожу вас до уровня Google, но у меня сел телефон, поэтому мне нужно задать вам один конкретный вопрос». Это нарушение этикета, сродни тому, чтобы попросить кого-нибудь побыть в роли пресс-папье или книжной полки.