собой то, что информация должна также поступать обратно из рабочего пространства к модулям ввода, влияя на обработку ими информации (дополнительное обоснование индикатора RPT-1).

Для выполнения сложных задач требуется постоянное контролируемое взаимодействие между модулями, ввиду чего рабочее пространство должно иметь ещё одну функцию: механизм внимания, определяющий получение информации из модулей, который должен зависеть от состояния системы, а также от новых входных данных (свойство GWT-4). То есть система должна реализовывать как вариант внимания «сверху вниз», так и вариант внимания «снизу вверх», что позволяет представлениям в самом рабочем пространстве или в других модулях влиять на то, какая информация выбирается из каждого модуля.

3. Свойства-индикаторы, основанные на положениях вычислительных теорий высшего порядка (Computational higher-order theories, Computational HOTs):

• HOT-1: наличие генеративных, нисходящих или шумных модулей восприятия [Generative, top-down or noisy perception modules].

• HOT-2: наличие метакогнитивного мониторинга, отличающего достоверные представления восприятия от шума [Metacognitive monitoring distinguishing reliable perceptual representations from noise].

• HOT-3: агентность[2432], управляемая общей системой формирования убеждений и выбора действий, а также сильной склонностью обновлять убеждения в соответствии с результатами метакогнитивного мониторинга [Agency guided by a general belief-formation and action selection system, and a strong disposition to update beliefs in accordance with the outputs of metacognitive monitoring].

• HOT-4: наличие разреженного и гладкого кодирования, создающего «пространство качества» [Sparse and smooth coding generating a “quality space”].

Пояснение. Основное утверждение теорий сознания высшего порядка: если субъект имеет сознание, то он осознаёт и данный факт, а это уже требует представления более высокого порядка, чем его сознание (здесь: представление первого порядка — то, которое представляет что-то о мире, а представления более высокого порядка — те, которые представляют что-то о более низких представлениях).

Далее авторы рассматривают теорию мониторинга реальности восприятия (Perceptual reality monitoring theory, PRM) как вычислительную теорию высшего порядка. Основное утверждение данной теории заключается в том, что сознание зависит от механизма, позволяющего в системах восприятия отличать осмысленную активность от шума. Это приводит к требованиям различать источники активности в системах восприятия (свойство HOT-1) и отличать в них достоверные представления восприятия от шума (свойство HOT-2).

Другим условием наличия сознания является использование сознательного опыта. Мы обычно полагаем, что объекты такие, какими они представляются нам исходя из впечатлений из внешнего мира (несмотря на возможность иллюзий). Такой опыт является независимым от нас источником знаний. Таким образом, система должна при выборе действий полагаться на представления восприятия, помеченные как «реальные», а механизм мониторинга реальности должен определять, какие состояния восприятия достаточно точны, чтобы счесть их реальными (свойство HOT-3).

Одна из гипотез предполагает, что для возможности функционального описания качеств (например, чтобы ощутить красный цвет тюльпана, необходимо осознать его сходство с цветом красного яблока и его отличие от зеленого цвета у свежего листа) требуется разреженное и гладкое кодирование в системах восприятия, без деления на абсолютные категории (свойство HOT-4).

4. Свойства-индикаторы, основанные на положениях теории схемы внимания (Attention schema theory, AST):

• AST-1: наличие прогнозирующей модели, представляющей и позволяющей контролировать текущее состояние внимания [A predictive model representing and enabling control over the current state of attention].

Пояснение. Прогнозирующая модель помогает системе научиться выполнять действия, влияющие на внимание, поскольку они оказывают благотворное влияние на другие когнитивные процессы. Она позволяет предвидеть, как могут измениться объекты внимания в зависимости от изменений в сознании или окружающей среде, и вносить соответствующие коррективы.

5. Свойства-индикаторы, основанные на положениях теории прогнозирующей обработки (Predictive processing, PP):

• PP-1: наличие входных модулей, использующих прогнозирующее кодирование [Input modules using predictive coding].

Пояснение. Теория прогнозирующей обработки не является теорией сознания, но многие исследователи рассматривают её как возможное необходимое условие для возникновения сознания. Она утверждает, что суть процесса познания у человека и высших животных заключается в создании «мысленной модели» окружающей среды, которая далее постоянно генерирует прогнозы входных сигналов от органов чувств, сравнивает их с фактическими и минимизирует при этом ошибки.

6. Свойства-индикаторы, основанные на положениях концепции агентности и воплощения (Agency and embodiment):

• AE-1: агентность: обучение через обратную связь и выбор действий, соответствующих достижению целей, особенно если это предполагает гибкое реагирование на конкурирующие цели [Agency: Learning from feedback and selecting outputs so as to pursue goals, especially where this involves flexible responsiveness to competing goals].

Пояснение. Рассел и Норвиг рассматривают агента как сущность, которая воспринимает окружающую среду через сенсоры и воздействует на неё через активаторы. Но это определение слишком широкое, ему соответствуют фактически все системы искусственного интеллекта и даже такой простой прибор, как термостат. Для более содержательного определения стоит добавить три условия, которые и сформулируют свойство AE-1. Первое: выходы системы должны потом влиять на её входы (без этого она не сможет взаимодействовать с окружающей средой). Второе: агент стремится к целям, то есть он производит свои действия так, чтобы они приближали его к целям. Третье: действия агента по достижению целей должны быть результатом его обучения (а не результатом, например, заложенных заранее знаний).

• AE-2: физическое воплощение: моделирование непредвиденных обстоятельств «выход-вход», включая некоторые систематические эффекты, и использование этой модели для восприятия или управления [Embodiment: Modeling output-input contingencies, including some systematic effects, and using this model in perception or control].

Пояснение. Для физически воплощённых систем поступающие данные от «органов чувств» могут меняться либо потому, что меняется внешняя среда, либо потому, что агент меняет своё положение в ней. Чтобы различать эти случаи, агенты должны отслеживать свои собственные активные движения и предсказывать их последствия, отличая их от изменений в окружающей среде. Эти функции включают различение агентом себя, находящегося в движущемся теле, и среды, в которой происходит движение. Согласно одной из теорий сознательный опыт есть результат практической деятельности по взаимодействию с окружающей средой: то, что вы испытываете и воспринимаете, постоянно зависит от того, что вы делаете, и наоборот (например, вы производите вращение головы, чтобы увидеть объект с другой точки зрения). Эта теория подразумевает, что необходимым условием для возникновения сознания является использование в восприятии этой модели («непредвиденных обстоятельств выход-вход»). Дополнительной характеристикой использования данной модели именно в физически воплощённых системах является представление прямых и систематических эффектов, которые оказывают движения на входные данные (свойство AE-2).

Здесь в силу ограниченного объёма книги я не буду подробно останавливаться на более детальном разборе этой безусловно интересной работы (в числе авторов которой, кстати говоря, числится уже хорошо знакомый вам Йошуа Бенджио, аспирант которого Эрик Эльмознино написал первые версии двух больших разделов исследования). Добавлю лишь, что, рассмотрев с точки зрения предложенных признаков четыре