Так важен ли вопрос о свободе, стоит ли к ней стремиться? Да, если больше всего мы боимся, что мыслящие машины будут над нами доминировать. Но должны ли мы так думать о них? Негативное мышление — то же самое, что критическое? Критическое мышление — подходящий способ для получения подлинно новых идей? Или это онанистическая логика, нацеленная на то, чтобы удовлетворять себя, не принимая во внимание других или внешний мир? К кому мы обращаемся через критику? К людям, которых хотим в чем-то убедить? Это возможно? Или это химера? Странный ход мысли, причуда «просвещенного» сообщества?

Не то чтобы прогресс недостижим. Очень даже наоборот, и мыслящие машины тому свидетельство. Может быть, идея прогресса не так уж неразрывно связана с идеей человечества. Может быть, люди — не вечные носители этой идеи. Может быть, она в какой-то момент отделится от людей и сконструирует собственную реальность. Может быть, в этом и заключается суть мыслящей машины — различие, зеркало, повод поразмышлять. Свобода от нас. Свобода от бремени человечества и его истории.

История человечества в немалой степени состоит из нагромождений одной мифологии на другую и усердных попыток разобрать эти завалы, рассортировать их и упорядочить, как если бы мы строили баррикады только для того, чтобы их разбирать, обеспечивая себя таким образом смыслом и целью жизни. Нелепо, как многое из того, что мы, люди, обычно делаем. Потому думать о машинах — значит думать о людях не совсем как о людях. Что освобождает нас от всех традиций, в которых мы запутались, — от старых представлений о порядке, жизни, счастье.

Семья, дружба, секс, деньги — все может быть другим. Это не единственные ответы на вопрос о свободе человека и о том, как ее создавать и, что еще важнее, как ее ограничивать. Мыслящая машина — это необходимый знак вопроса, стоящий за нашим существованием. Это пропуск — как любая жизнь. Мыслящая машина предлагает нам возможность освободиться от эволюционных, психологических, неврологических домыслов. В совершенно антигуманно гуманистическом смысле, в романтической традиции Э. Т. А. Гофмана, она может стать поэтическим, а следовательно, политическим проектом.

Она может освободить нас от нас.

Эдуардо Сальседо-Альбаран

Философ; директор Scientific Vortex, Inc.

«Сознательная» или «мыслящая» машина должна вести себя эксцентрично — иногда глупо, а иногда умно. Человеческое «разумное» поведение связано с непредсказуемыми колебаниями между эмоциями и разумом, в этом весь Homo sensus sapiens[127]. Как ни парадоксально звучит, наш вид характеризуется в равной степени (и в случайной пропорции) глупостью и разумностью.

Нам известно, что мы обладаем сознанием, хотя нет какого-то определенного способа это доказать. Наблюдая со стороны, также невозможно проверить, что кто-то или что-то обладает сознанием. Мы только принимаем сигналы — звуки, жесты, выражения — и делаем вывод о наличии такового.

Любая программа или робот может произнести слова: «Я разумен» или «У меня есть сознание», но это не доказательство разумности. В практическом смысле сознание и разум — вещи воспринимаемые и приписываемые. Такое приписывание зависит от нашей эмпатии и критериев антропоморфизма. Мы склонны делать вывод, что другие обладают сознанием, если они действуют, выглядят или (например, в тесте Тьюринга) отвечают на вопросы как мы. Тест Тьюринга — это социальный эксперимент, он демонстрирует, как мы воспринимаем машину и приписываем ей разумность, но не доказывает, что машина мыслит. Это социальная игра, в которую мы играем каждый день. «Мыслящая машина» на самом деле — машина социальная, а не функционирующий, но изолированный разум.

Идея создания одной-единственной разумной машины, которая разрешит все тайны реальности посредством безупречной логики и произведет на свет новый вид, — это что-то из области научной фантастики. Идея сингулярности — не горизонт событий, а бесконечный труд.

Человеческий разум устойчив, потому что его поддерживают децентрализованные сети других разумов и знаний. Когда мы растем, мы постепенно входим в них, используя язык и понятия, которые не согласуются с безупречной логикой; затем, направляя и исследуя эти сети, мы становимся устойчивыми разумами; наконец, мы выходим из этих сетей, когда теряем определенные способности мозга, например в результате болезни Альцгеймера. Мы никогда не бываем полностью внутри или снаружи сетей человеческих знаний — это аналоговый процесс. В его рамках словам и понятиям свойственна неоднозначность. Логика и безупречность характерны только для искусственных языков — математики, геометрии, программного кода, которые мы не можем использовать для общения в обычной жизни. Несовершенство и неоднозначность определяют человеческое мышление; вот почему даже в научной фантастике люди обычно находят неожиданные способы обойти логику машин. Следовательно, возможность появления искусственного сверхразума походит на научную фантастику: нам никогда не собрать всех знаний в мире, значит, мы не сумеем передать их машине. Мы можем научить ее получать знания, но это бесконечный процесс. Впрочем, нельзя сказать, что в искусственном интеллекте нет смысла. Мы пока не до конца понимаем, как работают мозг и разум, и в интеллекте и думающих машинах сейчас больше смысла, чем когда-либо. Мы можем решать практические задачи, симулируя определенные элементы разума посредством машинного обучения и глубинного обучения. Как раз такими вещами на данный момент занимаются искусственные экспертные системы. Но это не означает, что мы создаем настоящие интеллекты: симуляция разума чем-то напоминает производство эрзац-мяса для веганов посредством переработки растительного сырья. Та же симуляция: на вкус как мясо, но не мясо.

Мы также можем попытаться создать настоящее мясо, а не имитировать его, к примеру клонируя клетки коров. Вряд ли клонированное мясо и реплицированный разум изменят общество, потому что у нас все равно останутся оригиналы, но эти новшества выведут нас на следующий уровень понимания. В итоге попытки понять — или симулировать, или создать — разумы будут актуальны, если они помогут нам мирно сосуществовать. Нам хорошо известно, что религия, обостренные амбиции и нетерпимость приводят к социальным трагедиям, потому что мешают нам достичь тонкого равновесия между эмоциями и разумом. Во многих странах мы приближаемся к границе между миром и варварством, но искусственный интеллект позволит нам интегрировать все, что мы знаем, и все, что нам нужно, чтобы достичь мирного сосуществования и баланса между органическими машинами, которыми мы являемся, и (возможно) неорганическими машинами, которые скоро появятся.

Мария Спиропулу

Специалист по экспериментальной физике элементарных частиц, Калифорнийский технологический институт

Начинает зарождаться так называемый искусственный интеллект в виде эмуляции человеческого интеллекта, основанный на технологических достижениях и изучении человеческой сложности. Эмуляция включает высокопроизводительные вычислительные системы, оснащенные интеллектуальным, гибким программным обеспечением: машинным обучением, глубинным обучением и т. п. Множество таких систем соединяется в самоорганизующуюся, автономную, самооптимизирующуюся сеть. Изучение человеческой сложности включает нейронауку, геномику и новые междисциплинарные области.