Чалмерс: Я думаю, это очень маловероятно. У нас даже нет теории сознания, которая позволила бы нам разрешить эти вопросы относительно людей! А люди намного проще современных компьютеров.

Шевлин: А что насчет сознания животных? Здесь у нас, похоже, есть этический императив – найти достаточно обоснованные ответы, чтобы определить, может ли, например, рыба субъективно осознавать боль. Есть ли у тебя какие-нибудь мысли о том, как подойти к этой проблеме?

Чалмерс: Ну, я думаю, можно уверенно предположить, что млекопитающие обладают сознанием.

Шевлин: Что позволяет сделать такой вывод?

Чалмерс: Что ж, можно начать с людей. Через интроспекцию мы определили, что они обладают сознанием, и очень трудно представить, что его у нас нет.

Шевлин: Конечно, но как перейти от человека к другим организмам? Их мозг не может, например, в точности задействовать архитектуру глобального рабочего пространства[17] или любую другую когнитивную архитектуру, которая, по вашему мнению, лежит в основе сознания. Как определить, обладает ли сознанием, например, собака или курица?

Чалмерс: Это действительно хороший вопрос. Я думаю, что мы можем, в частности, предположить следующее: если у организма есть центральная нервная система и головной мозг, то есть некоторый шанс, что этот организм может обладать сознанием.

Ответы в интервью Шевлина, подписанные фамилией Чалмерс, написала GPT-3. GPT-3 – это огромная искусственная нейронная сеть, которая была натренирована с использованием глубокого обучения, метода, требующего больших объемов данных. Основная задача GPT-3 – создать правдоподобное продолжение любого фрагмента текста, основанное на чтении книг и статей со всего Интернета. Шевлин дал ей подсказку: «Это интервью Генри Шевлина с Дэвидом Чалмерсом», за которой последовала моя биография из Википедии. С этого момента все вопросы исходили от Шевлина, а все ответы – от GPT-3.

Чтение интервью привело меня в замешательство. GPT-3 более или менее верно отражает мое мнение по этим вопросам, пусть и присутствуют некоторые сбои (люди проще современных компьютеров?). Многие друзья, прочитавшие это на Facebook, предположили, что это и вправду интервью со мной. Сердобольные коллеги сказали, что у меня, похоже, случился плохой день. Один коллега сообщил, что чрезмерное повторение выражения «я думаю» выдает меня. Я ответил, что злоупотребляю этим оборотом в текстах. Некоторые шутили, что уже не могут быть уверены, что разговаривают со мной настоящим.

По сути, GPT-3 создала мой симулякр, который одурачил немало моих друзей и коллег. Мой симулякр – это образчик или, по крайней мере, близкий родственник дипфейка: поддельной сущности, созданной с использованием технологии глубокого обучения.

Слово «дипфейк» чаще всего применяется к поддельным фотографиям и видео, а не к поддельному тексту. До недавнего времени поддельные изображения обычно создавались с помощью Photoshop, технологии CGI и других инструментов. Один из примеров – появление принцессы Леи ближе к концу фильма «Изгой один. Звездные войны» 2016 года. Она похожа на молодую героиню, которую сыграла Кэрри Фишер в оригинальном фильме «Звездные войны» 1977 года. Сцена была создана с использованием технологии CGI. Специалисты «приклеили» лицо Фишер из фильма 1977 года к телу норвежской актрисы Ингвильд Дейла.

Сцена из «Изгой один» получила смешанные отзывы. Технология CGI была ограниченной, и многие зрители сочли копию принцессы Леи далекой от оригинала. Однако всего четыре года спустя энтузиасты использовали общедоступную программу искусственного интеллекта, чтобы исправить лицо Леи в этой сцене. Многие зрители сочли любительскую версию 2020 года гораздо более убедительной, чем профессиональную 2016 года.

Новая версия Леи была дипфейком. Фото- и видеодипфейки создаются глубокими нейронными сетями – взаимосвязанными сетями со многими слоями нейроподобных вычислительных блоков. С течением времени эти сети можно натренировать с помощью процесса глубокого обучения, который регулирует связи между блоками. Глубокое обучение может натренировать сети выполнять множество задач, включая создание очень убедительных изображений или видеороликов. Часто на фото или видео с дипфейком можно увидеть, как кто-то делает то, чего никогда не делал, или говорит то, чего никогда не говорил. Также дипфейк может создать изображение человека, которого никогда не существовало.

Дипфейк-технологию применяют в таких разных жанрах видео*, как политика и порнография. Воссозданные ИИ общественные деятели часто говорят возмутительные вещи. Есть видео, где Барак Обама произносит: «Киллмонгер был прав», имея в виду антагониста-революционера из «Черной пантеры». Есть еще одно, где Дональд Трамп появляется в телесериале «Лучше звоните Солу» и рассказывает об отмывании денег. В ходе избирательной кампании в Дели в 2020 году «Бхаратия джаната парти» использовала эту технологию для создания видеоролика, где один из ее кандидатов, Маной Тивари, обратился к толпе на хариани – языке, которым не владеет.

Вероятно, технология дипфейков будет быстро совершенствоваться. Скоро мы не сможем отличить фото- или видеодипфейки от настоящих. Они вполне могут войти в миры дополненной или виртуальной реальности. Например, в AR перед нами появится подруга и скажет то, чего никогда не говорила. В итоге возникнут целые виртуальные дипфейк-реальности, предназначенные для того, чтобы убедить пользователей в существовании искаженного мира.

Возникает новая версия Вопроса Реальности: «Реальны ли дипфейки?» Если мы наделяем реальностью виртуальные объекты, разве мы не должны сделать то же самое и для дипфейков? Также с ними связана версия Вопроса Познания: «Как узнать, что видимое нами не дипфейк?» Когда дипфейки широко распространятся, сможем ли мы понять, является ли изображение реальным?

Те же вопросы возникают в отношении вводящих в заблуждение новостей, которые теперь часто называют фейковыми. Они становятся все более частым явлением, вредящим одним политическим деятелям и помогающим другим. И снова мы можем задать Вопрос Реальности: «Реальны ли фейковые новости?» И самое главное, мы можем задать Вопрос Познания: «Как мы можем узнать, когда новости фейковые?»

Это актуальные вопросы в 2020-х годах. Вопрос о том, не живем ли мы в сценариях вроде Матрицы, может показаться многим из нас шутливым. Но вопрос о том, не фейковые ли некоторые из новостей, отрезвляет. Он отсылает к особенно реалистичной версии проблемы скептицизма в отношении внешнего мира.

Вопрос здесь не касается картезианского глобального скептицизма: «Все ли фальшиво?» Он касается лишь локального скептицизма: «Фальшиво ли именно это? Это на самом деле происходит?» Как следствие, моя стратегия реагирования на глобальный скептицизм (обратитесь к шестой главе) здесь может быть неприменима. И я не утверждаю, что у меня есть общий ответ на вопросы локального скептицизма. Тем не менее давайте посмотрим, сможем ли мы сказать что-нибудь полезное о ситуациях, связанных с дипфейками и фейковыми новостями.

Я остановлюсь более подробно на варианте вопроса, приведенном в