Если люди хотят смоделировать свои мыслительные инструменты в неких артефактах как репрезентацию собственного интеллекта, то первое, что им следует сделать, — это выяснить, что именно требуется смоделировать. На данный момент проделать такое невозможно, поскольку не существует даже таксономии или классификации функций, которые позволили бы осуществить этот проект в виде действительно научного или технологического начинания. Есть только умные слова, с помощью которых люди лишь создают видимость понимания.

Как это ни странно, отсутствие подобной таксономии, по-видимому, не очень-то волнует людей; довольно часто они очаровываются изображениями (цветастыми картинками, создаваемыми машинами), которые замещают мышление. В сравнении с классической биологией, химией или физикой, их нейробиологии и физиологии недостает классификации. Люди заблудились в концептуальных джунглях. Что они имеют в виду, когда говорят о сознании, разуме, интенции, личности, субъектности или даже о более простых понятиях вроде памяти, восприятия, эмоций или внимания? Отсутствие таксономии проявляется в различии мнений и систем взглядов, которые их «ученые» выражают в своих эмпирических потугах и теоретических измышлениях, продираясь через мир неизведанного.

Для некоторых людей системой координат служит физическая «реальность» (обычно понимаемая в терминах классической физики), используемая в качестве мерила для познавательных процессов: как воспринимаемая реальность связана с физической реальностью и как это описать математически? Очевидно, что с таким подходом можно зафиксировать лишь малую часть из инструментов мышления.

Для других существенным классификационным признаком является язык, то есть предполагается, что слова надежно представляют субъективные явления. Это довольно странно, потому что конкретные понятия, такие как «разум» или «сознание», имеют разные коннотации в разных языках, и исторически они очень новые в сравнении с биологической эволюцией. Третьи используют поведенческие каталоги, заимствуя их из нейрофизиологических исследований. Так, утверждается, что утрата функций — это доказательство их существования. Но могут ли все субъективные феномены, которыми характеризуются инструменты мышления, быть явным образом утрачены? Четвертые основывают свои идеи только на здравом смысле, также называемом «житейской психологией», без какого-либо теоретического осознания. Если собрать это все вместе, то ничего похожего на разум как четкое понятие отсюда извлечь не удастся; использовать это в качестве основания для понятия «искусственный разум» тоже не получится.

Людям следует напомнить (в данном случае это должен сделать внеземной робот), что в самом начале современной для человеческого мира науки Френсис Бэкон произнес слова предупреждения. Он сказал в своем сочинении «Новый органон» (опубликованном в 1620 году), что люди становятся жертвами четырех источников заблуждений.

1. Они совершают ошибки потому, что они люди. Их эволюционное наследство ограничивает силу их мышления. Они часто слишком быстро дают ответ; им не хватает выдержанности; у них нет статистического чутья; они слепы в своих эмоциональных реакциях.

2. Они совершают ошибки из-за личного опыта. Индивидуальный импринтинг может создавать системы убеждений, ведущие к катастрофам, — в частности, такое бывает, когда люди думают, будто владеют абсолютной истиной.

3. Они совершают ошибки из-за языка, который используют. Мысли не связаны с языком изоморфно, и ошибкой будет считать, что эксплицитное знание — это единственная форма знания, и обходить вниманием имплицитное, или неявное, знание.

4. И они также совершают ошибки из-за теорий, которые разносят повсюду, а те часто становятся имплицитными и, следовательно, представляют собой застывшие парадигмы или попросту предрассудки.

Итак, вопрос состоит в следующем: можем ли мы помочь людям и поделиться несравнимо более глубоким пониманием, достигнутом миром роботов? Ответ: да. Мы можем, но делать этого не нужно. У людей есть еще один недостаток, который обессмыслит любое наше предложение. Они страдают от синдрома ИНЗ: если что-то изобретено не здесь, они это не примут. Следовательно, им придется и дальше предаваться роскоши существования в мире туманных идей, а мы продолжим наблюдать за катастрофическими последствиями их глупости.

Росс Андерсон

Преподаватель техники обеспечения безопасности в компьютерной лаборатории Кембриджского университета; автор книги «Техника обеспечения безопасности»

Грядущие потрясения будут исходить не от машин, которые мыслят, а от машин, которые используют искусственный интеллект, чтобы дополнить наше восприятие.

Миллионы лет другие люди видели нас с помощью того же инструментария, каким пользовались мы, чтобы видеть их. У нас практически такие же глаза, что и у наших визави, и практически такие же зеркальные нейроны. В любой из культур у людей практически одинаковые сигнальные механизмы и системы ценностей. Потому, когда мы пытаемся кого-то обмануть или обнаружить обман в действиях других, то играем на равных. Я могу надеть на пенис большую тыкву, чтобы выглядеть более мужественным, вы можете раскрасить грудь полосами белого и охры, чтобы выглядеть более устрашающим. Цивилизация сделала эти игры более утонченными: я сигнализирую о классовой принадлежности, надевая изготовленный на заказ пиджак с четырьмя пуговицами на манжетах, а вы сигнализируете о богатстве, надевая большие часы. Но наши игры были бы совершенно понятны нашим предкам из времен неолита.

Что изменилось, когда компьютеры оказались незаметно встроены повсюду, так это то, что мы теперь оставляем цифровой след, который может быть проанализирован системами искусственного интеллекта. Майкл Косински, психолог из Кембриджа, продемонстрировал, что вашу расу, уровень интеллекта и сексуальную ориентацию можно достаточно быстро вывести из вашего поведения в социальных сетях: в среднем достаточно всего четырех «лайков» на Facebook, чтобы составить представление о гетеро- или гомосексуальности. И если в прошлом гомосексуальные мужчины могли выбирать, носить им футболку Out and Proud или нет, сейчас вы понятия не имеете, что на вас надето. По мере развития искусственного интеллекта вы по большей части показываете себя в истинном свете.

Это как если бы мы эволюционировали в лесу, где все животные обладают только черно-белым зрением, и вдруг появился бы хищник, который может видеть цвета. Неожиданно половина вашего камуфляжа перестала бы работать, а вы б даже не знали, какая именно половина!

На данный момент это все кажется очень интересным, если вы рекламщик, поскольку позволяет вам понять, как тратить меньше денег. На улице такого пока нет. Но полиция работает над этим. Какой коп не захотел бы приложение для Google Glass, подсвечивающее тех прохожих, которые ранее совершали насильственные преступления, возможно работающее совместно с радаром W-диапазона, чтобы видеть, у кого из них есть при себе оружие?

Следующий вопрос: только ли у государственных органов окажутся продвинутые системы восприятия или же они станут доступны всем? Будем ли мы все через двадцать лет носить очки дополненной реальности? Как изменятся отношения власти и подчинения? Если полицейский может просматривать записи о моих задержаниях, когда глядит на меня, могу ли я увидеть, не выдвигалось ли против него обвинений в жестоком обращении с задержанными? Если политик может увидеть информацию о том, поддерживаю ли я какие-либо партии или независимых кандидатов, могу ли я увидеть информацию о том, как он голосовал по трем вопросам, которые меня интересуют? Черт с ним, с правом на ношение оружия, как насчет права носить Google Glass?