Я наблюдал такие нарушения и в разговорах: один человек хочет узнать у другого некий не очень известный факт — число, дату, фамилию, — в общем, задает такой вопрос, который мог бы встретиться в телевизионной викторине, и его собеседник кривится или отмахивается. Выражение его лица так и говорит: «Я не знаю. У вас ведь есть телефон? К вашим услугам весь интернет, а вы оскорбляете меня, тратите мое время, используете меня». Не зря же у нас появилась эта броская фраза: «Давай я погуглю за тебя»[109].

Судя по всему, есть еще задачи, с которыми справляется лишь мозг — только в нем хранится релевантная информация и опыт, а потому у нас нет иного выбора, кроме как побеспокоить этот мозг, когда нам что-то нужно. «Как тебе последние цифры?», «Думаешь, Смит блефует?», «Кейт понравится ожерелье?», «Меня это не полнит?», «Каковы шансы?..» Подобные вопросы вполне могут показаться неприличными в XXII веке. Для них нужен разум, но подойдет любой разум, а потому мы обратимся к тому, который будет ближе.

В романтической комедии «Скажи что-нибудь», вышедшей в 1989 году, есть незабываемая сцена, в которой Айони Скай возвращается к Джону Кьюсаку, признается ему в любви и просит прощения. «Один вопрос, — говорит он. — Ты здесь потому, что тебе нужен кто-то, или потому, что тебе нужен я?» Когда артефакты смогут сказать что-нибудь, для чего нужен универсальный интеллект, то это станет вопросом, подспудно повторяемым в каждой человеческой интеракции, как тайная мантра, стандартом, по которому будет оцениваться каждое взаимодействие.

Когда мы, люди, выходим из кинотеатра, музея или со спектакля, мы всегда задаем друг другу один и тот же вопрос: «Ну, ты что думаешь?» Он станет одним из немногих, которые переживут зарождающийся ИИ. Мы просто будем чаще выделять курсивом «ты», а не «думаешь».

Бенджамин Берген

Адъюнкт-профессор и преподаватель когнитивистики Калифорнийского университета в Сан-Диего; автор книги «Громче, чем слова: Новая наука о том, как сознание формирует смыслы» (Louder Than Words: The New Science of How the Mind Makes Meaning)

Машины принимают решения за нас. Трейдинговый компьютер на Манхэттене обнаруживает изменение биржевых цен и за несколько микросекунд решает купить миллионы акций IT-компании. Управляющая автомобилем машина в Калифорнии обнаруживает пешехода и решает повернуть колеса влево.

Проблема состоит не в том, «думают» эти машины или нет. Настоящая проблема в том, какие решения мы им позволяем принимать. А они становятся все более важными. От них зависят сбережения людей. Их жизни. И, поскольку машины начинают принимать решения, значимость которых постоянно растет — для людей, для животных, для окружающей среды и для национальных экономик, — растут и ставки.

Рассмотрим такой сценарий: беспилотный автомобиль обнаруживает пешехода, выбежавшего на дорогу прямо перед ним. Машина быстро понимает, что вариантов выхода из этой ситуации без потерь нет. Если не менять курс, то столкновение и урон для пешехода неизбежны. Торможение приведет к столкновению с движущимся сзади автомобилем, при этом пассажир может получить травмы. То же самое произойдет при попытке маневрирования. Каким протоколом должна воспользоваться машина, чтобы принять решение? Как ей оценить и взвесить разные виды возможного урона разным участникам аварии? Сколько увечий и с какой вероятностью и тяжестью стоят одной смерти? Какой урон имуществу стоит 20 %-ной вероятности хлыстовой травмы шеи? На такие вопросы трудно ответить. Они не становятся проще, если у нас есть больше данных или больше вычислительной мощности. Мы возлагаем на машины ответственность за моральный выбор. Сталкиваясь с такими ребусами, мы часто используем людей в качестве модели. Что бы сделал человек? Давайте воссоздадим то же самое в машине.

Проблема состоит в том, что, когда дело касается морального выбора, люди последовательно непоследовательны. То, что они называют правильным, и то, что делают в действительности, часто не совпадает (вспомним дело Китти Дженовиз[110]). Моральная арифметика изменяется со временем и имеет отличия в разных культурах. Детали каждого из сценариев влияют на решение: пешеход — ребенок или взрослый? Пешеход выглядит пьяным? Он похож на преступника, пытающегося скрыться? Идущий сзади автомобиль плотно прижался к нашему?

Как поступить машине?

Как поступить человеку?

Наука в вопросах морального выбора помогает плохо. Но кому-то придется на них отвечать, раз мы перекладываем на машины столько решений. И у нас все меньше возможностей сделать так, чтобы это был человек.

Лоуренс Смит

Профессор географии, заведующий кафедрой, профессор наук о Земле, планетарных и космических явлениях, Калифорнийский университет в Лос-Анджелесе; автор книги «Мир в 2050 году» (The World in 2050)

Что такого особенного в мыслящих машинах? Для небольшого числа философов и теологов — еще понятно, а для остальных из нас искусственный интеллект будет просто очередным шагом на долгом пути технологического развития, которое уже изменило мир практически до неузнаваемости.

Почти несомненно, что с крайне важной мыслительной работой, направленной на решение проблем, адаптивное машинное обучение будет справляться успешнее, чем любой человеческий мозг (или даже целая конференция специалистов). Машины уже лучше вас самих понимают ваши потребительские предпочтения благодаря хитроумным финансово-мотивированным адаптивным алгоритмам, которые отслеживают ваше поведение в сети. Но идет работа и над другими задачами, такими как «умная» охрана правопорядка и обнаружение потенциально возможных ситуаций жестокого обращения с детьми, причем и то и другое реализуется посредством сопоставления не связанных между собой на первый взгляд данных.

С тех пор как мы покинули саванну, этот процесс был отличительным признаком человеческого мышления; поскольку мировые проблемы становятся все острее и сложнее, нам следует принять любой эффективный инструмент, способный с ними справиться. Я согласился бы на партнерство с обучающейся машиной, чтобы сделать современную жизнь более эффективной с точки зрения ресурсов — в такой мере, которой не может обеспечить человеческий мозг. Мир, где бесперебойно выращивается пища, где в достатке чистой воды для людей и экосистем, комфортного и энергоэффективного жилья, вполне возможен, и его отчасти помогли бы нам приблизить мыслящие машины.