Люди проводят от 25 до 50 процентов своей психической жизни, размышляя о будущем. Мы представляем множество вероятных исходов и наделяем большую их часть, а может, и каждый из них определенной валентностью. Следующее крайне важно: мы выбираем один из вариантов. Нам не нужно связываться с проблемами свободы воли; все, что нам нужно осознать: наше мышление служит действию и представляет нам набор возможных вариантов будущего, каждому из которых присваивается оценка. Акт выбора, хоть он и управляем, переводит наше мышление в действие.

Почему мышление организовано таким образом? Потому что у людей много конкурирующих целей (еда, секс, сон, теннис, написание статей, почет, месть, забота о детях, загар и т. д.), а ресурсов для их реализации недостаточно: не хватает денег, или старания, или даже жизни. Так что оценочное моделирование возможных вариантов будущего — один из способов решать подобные экономические задачи. Это механизм назначения приоритетов и выбора образа действий.

Причем мы испытываем недостаток не только во внешних ресурсах. Само мышление использует дорогостоящую и ограниченную энергию, а потому сильно зависит от способов сокращения мыслительных усилий и от мало осознаваемых переходов к наилучшему объяснению. Наше мышление удручающе неэффективно. Разум блуждает, в голову лезет всякая ерунда, внимание большую часть времени рассеяно. Этот процесс редко бывает связан с утомительными рассуждениями, обдумыванием и выводом умозаключений.

По большей части контекст нашего мышления социален. Да, мы можем прибегнуть к нему для решения физических или арифметических задач, но в основании, как напоминает нам Ник Хамфрис, всегда будут другие люди. Мы используем мышление для того, чтобы что-то делать в социуме: соперничать, сотрудничать, созывать присяжных, рассказывать истории и убеждать.

Я не очень хорошо разбираюсь в том, как работают современные машины. Я не думаю, что они вообще что-то делают в том значении, какое Джеймс вкладывал в произвольное действие. Сомневаюсь, что они обдумывают возможные варианты будущего, оценивают и выбирают какие-то из них, хотя это и описывает — для одной, очень простой, задачи — то, что делают шахматные компьютеры. Наши нынешние машины ограничены доступным пространством и размером счетов за электричество, но они изначально не являются творениями, основанными на ограничениях, со множеством конкурирующих целей и вечной нехваткой энергетических ресурсов. Наши нынешние машины не социальны: они не конкурируют и не сотрудничают друг с другом или с людьми, они не рассказывают историй и не пытаются никого ни в чем убедить.

Еще меньше я знаю о том, что машины когда-нибудь научатся делать. Я, однако, полагаю, что можно построить машину со следующими параметрами:

• она обдумывает и оценивает варианты будущего;

• основываясь на этой оценке, она делает выбор между конкурирующими целями и действиями;

• ее ресурсы ограничены, поэтому ей приходится воздерживаться от детальной обработки некоторых целей, действий и вариантов, следовательно, она использует упрощенные схемы обработки;

• она социальна, то есть конкурирует и сотрудничает с другими машинами или людьми, она рассказывает истории и пытается кого-то в чем-то убедить.

Появление такой машины стало бы основанием для обсуждения вопросов о ее гражданских правах, чувствах, а также о том, является ли она источником опасности или великой надежды.

Тимоти Тейлор

Преподаватель предыстории человечества в Венском университете; автор книги «Искусственная обезьяна: Как технология изменила направление эволюции человека» (The Artificial Ape: How Technology Changed the Course of Human Evolution)

У человеческого разума есть склонность путать вещи и их образы. Для этой склонности даже есть слово — Denkraumverlust, впервые использованное историком Аби Варбургом (1866–1929) и в буквальном переводе означающее «потеря мысленного пространства». Отчасти привлекательность мыслящих машин состоит в том, что они с такой проблемой не столкнутся, будучи более логичными, чем мы. С другой стороны, они вряд ли придумают слово или термин наподобие Denkraumverlust. Поэтому то, что мы думаем о мыслящих машинах, зависит от подразумеваемого типа мышления, а также от того, что мы имеем в виду, когда говорим «машина». В отношении мыслящих машин мы путаем признак — или репрезентацию — мышления с самим предметом. И если мы исходим из того, что машина — это нечто, произведенное людьми, то мы недооцениваем степень, в которой машины производят нас, как и тот факт, что мышление возникло давным-давно в результате этого взаимодействия и на самом деле ни одной из сторон не принадлежит (представление о том, что вообще есть отдельные стороны, также может быть ошибочным).

Denkraumverlust поможет нам понять не только положительный вывод некоторых экспертов при прохождении теста Тьюринга российско-украинской компьютерной программой «Женя Густман», но также и совершенно иную ситуацию — убийства в ответ на карикатуры, изображающие пророка Мухаммеда. Обе ситуации демонстрируют, насколько возбудимыми и даже легковерными мы бываем, когда нам показывают нечто, очень похожее на что-то другое, причем похожее настолько, что образ и реальность сливаются.

Чтобы пройти тест Тьюринга, машина должна быть неотличимой от собеседника-человека при имитации общения (а не думающей самостоятельно). Однако если бы некий усовершенствованный «Женя Густман» стал настаивать, что у него есть собственные мысли, как бы мы поняли, что это правда? Если он знает, что должен имитировать человеческий разум, как нам отличить сознательное притворство от имитации притворства? Людвиг Витгенштейн характеризовал притворство как особую категорию для обсуждения возможности знать состояние других разумов, рассматривая ситуацию, когда кто-то ошибочно полагает, что притворяется. Способность правильно оценить результаты теста Тьюринга в связи с возможностью самостоятельного искусственного мышления — это центральная часть риторики Витгенштейна: она приводит нас к заключению, что любые усилия здесь обречены на провал, поскольку задействуют данные, не поддающиеся оценке.

Понятие Denkraumverlust связано с непосредственным откликом на что-либо. Хотя утонченная публика может счесть попытку себя обдурить эстетическим переживанием (удачное использование трехмерной перспективы на совершенно плоском холсте, например), но, когда обман действительно удается, реагирует не столь спокойно. В культуре изображения часто подвергаются цензуре; считается, что они могут закоротить наши разумные и вдумчивые реакции. Как правило, речь идет об эротических или жестоких изображениях, но иногда — и о религиозных. Если их разрешить, они могут вызывать инстинктивную непосредственную реакцию, такую же, какую вызвала бы реальная ситуация. Новые, незнакомые технологии часто застают нас врасплох (когда французские моряки в XVIII веке преподнесли тасманийским аборигенам зеркала, это очень плохо кончилось; позже антропологи наблюдали схожие проблемы с фотографиями).

Классический пример искусственно созданной путаницы — это легенда о скульпторе Пигмалионе, страстно полюбившем статую богини, которую он сам изваял. Вскоре появились античные и средневековые арабские механизмы, которые настолько реалистично, оригинально и удивительно звучали и двигались, что люди, хоть и ненадолго, но все же принимали их за живых существ. Мыслящие машины продолжают ту же цирковую традицию. Как статуя Пигмалиона, они создают определенный образ, хоть и не визуальный. Даже если их не одевать так, чтобы они выглядели кибернетическими богинями, они — репрезентация нас самих. Они созданы для того, чтобы представлять для нас информацию (часто соответствующим образом организованную) в последовательном виде — математическом, статистическом, в формате перевода или, как в тесте Тьюринга, разговора.