Я возвращаюсь к уже сделанному предупреждению о том, что мы должны воздерживаться от любых действий, ведущих к увеличению общего количества страдания и смятения во вселенной. Я ни в коем случае не хочу утверждать или постулировать как утвержденный факт, что сознательный опыт в его человеческой разновидности – это нечто негативное, существующее не в интересах переживающего субъекта. Я считаю этот вопрос в полной мере осмысленным, абсолютно уместным, но и открытым. Но я утверждаю, что мы не должны создавать или запускать эволюцию второго порядка, искусственных эго-машин, пока нам не от чего отталкиваться, кроме функциональной структуры и образцов собственной феноменальной психики. Иначе в результате мы, скорее всего, создадим копию собственной психологической структуры, и к тому же испорченную. Опять же: риск тоже стоит взвешивать на весах этики.

Но давайте не будем уклоняться и от более глубокого вопроса. Есть ли основания для феноменологического пессимизма? Мы можем определить это понятие с помощью тезиса, что все разнообразие феноменальных переживаний, производимых человеческим мозгом, представляет собой не сокровище, а обузу. В среднем на протяжении жизни баланс радости и страдания почти для всех носителей тяготеет в сторону последнего – наше сознательное существование не покрывает своей стоимости. Существует долгая философская традиция, от Будды до Шопенгауэра, утверждающая, что жизнь не стоит того, чтобы ее проживать. Я не стану повторять здесь аргументов пессимистов, но позвольте мне заметить, что появилась новая перспектива, с которой можно рассматривать известную нам часть физического мира и эволюцию сознания: они подобны ширящемуся океану страдания и смятения там, где их раньше не было. Да, верно, что осознаваемая я-модель первой принесла в физический мир также радость и удовольствие – раньше таких явлений не существовало. Но становится столь же очевидным, что психологическая эволюция не оптимизировала нас для долговечного счастья, а, напротив, загнала в беличье колесо гедонизма. Мы вынуждены искать эмоциональной безопасности, радости и удовольствия и избегать боли и уныния. Гедонистическое беличье колесо – это мотор, который природа изобрела, чтобы организмы действовали. Мы можем распознать в себе его структуру, но никогда не сумеем вырваться из нее. Мы и есть эта структура.

По ходу эволюции нервной системы как численность отдельных сознающих субъектов, так и глубина феноменального пространства состояний (то есть богатство и разнообразие сенсорных и эмоциональных оттенков, доступных субъекту для страдания) постоянно росла, и процесс этот еще не прекратился. Эволюция не заслуживает похвалы: она слепа, она движима случайностью, а не пониманием. Она беспощадна и принесла миллионы наших предков в жертву. Она изобрела механизм вознаграждения в мозгу; изобрела положительные и отрицательные эмоции для мотивации нашего поведения; она загнала нас в гедонистическое беличье колесо, чтобы мы постоянно стремились быть как можно счастливее – чтобы нам было хорошо – и никогда не достигали стабильного состояния. Но, как мы уже понимаем, процесс оптимизировал наш мозг и психику не для счастья как такового. Такие биологические эго-машины, как Homo sapiens, эффективны и изящны, но многие эмпирические данные указывают, что счастье само по себе никогда не было самоцелью.

В сущности, согласно натуралистическому мировоззрению, цели вообще не существует. Строго говоря, не существует даже средств – эволюция просто происходит. Конечно, возникли субъективные цели и явились нам в сознании, но процесс в целом определенно не выказывает к ним ни малейшего уважения. Эволюция не уважает единичных страдальцев. Если это так, то, следуя логике психологической эволюции, надо скрывать от эго-машин тот факт, что они заперты в беличьем колесе (вспомните об обсуждаемых в четвертой главе «галлюцинированных» целях). Было бы преимуществом, если бы понимание структуры собственной психики – понимание, подобное очерченному выше, – не слишком сильно отражалось в осознаваемой я-модели. Многие новые взгляды эволюционной психологии показывают, что самообман может быть очень успешной стратегией, например, когда необходимо успешно обмануть других. С традиционной эволюционной точки зрения, философский пессимизм антиадаптивен, опасная утрата «психического здоровья», по крайней мере в чисто биологическом смысле. Но теперь все начало меняться: в естественный механизм вытеснения вмешалась наука и понемногу проливает свет на слепые пятна в эго-машине7.

Истина, возможно, как минимум не менее ценна, чем счастье. Легко представить человека, ведущего довольно несчастную жизнь, но в то же время совершающего выдающиеся философские или научные открытия. Такого человека донимают боли и страдания, одиночество и сомнения в себе, но жизнь его, несомненно, имеет ценность благодаря вкладу, который он внес в познание. Если такой человек тоже в это верит, он может даже обрести осознанно переживаемое утешение. Тогда его счастье будет иным, чем у наших искусственных машин блаженства или у людей, подключенных к машине ощущений, из мысленного эксперимента Роберта Нозика. Многие наверняка согласятся, что такое «эпистемическое» счастье перевесит многие несчастья чисто феноменального типа. То же самое можно сказать о таких источниках счастья, как творческие достижения или моральная цельность. Если вообще имеет смысл говорить о «ценности» человеческого существования, мы должны согласиться, что оно зависит не только от осознанно переживаемого счастья.

Пока такие вопросы не нашли ответа, нам следует воздержаться от попыток создать искусственные эго-машины, причем не только по этическим соображениям. Нельзя забывать о необратимости некоторого развития. Всякая постбиотическая система, которая достаточно приблизится к тому, чтобы приобрести свойства, характеризующие феноменальное чувство Я, – всякая система, развившая достаточно прочный взгляд от первого лица, – станет одновременно самостоятельным действующим лицом с собственными предпочтениями. На определенном уровне автономии нам придется принять такую систему как личность со своими правами и вступить с ней в диалог. Наше понимание того, кто подлежит моральным соображениям и заслуживает обращения как с личностью, не позволят нам попросту ее выключить.

Беседа с первым постбиотическим философом

Первый постбиотический философ (ППФ): Много веков назад, в начале двадцать первого века, существовал особо бестолковый человеческий философ по имени Томас Метцингер. Он утверждал, что есть строгий, но намного более интересный критерий существования психики в действительно сильном смысле, чем классический тест Тьюринга на разумность. Этот представитель вашего человеческого вида считал хорошим тестом на наличие как разума, так и искусственного сознания то, что я назвал бы тестом Метцингера. Фактически, этот тест слишком строг, поскольку критерий чрезмерно силен, – тем не менее я могу его пройти.

Тест Метцингера на сознание в небиологической системе требует, чтобы система не только заявляла о наличии у нее феноменального восприятия и подлинной внутренней перспективы, но и понимала и принимала теоретическую проблему субъективности, и демонстрировала это участием в дискуссии об искусственном сознании. Она должна выдвигать собственные аргументы и убедительно отстаивать собственную теорию сознания. Именно это я сейчас и сделаю.