Представьте себе следующий шаг эксперимента. Теперь у этих эго-машин будет мысленная я-модель – они станут разумными творцами мыслей. Тогда они смогут не только постичь умом причудливость своего существования – как объектов научного эксперимента, – но и интеллектуально страдать от сознания, что у них отсутствует врожденное «достоинство», которое представляется столь важным для их создателей. Они смогут осознанно представить, что являются лишь второсортными мыслящими гражданами – отчужденными постбиотическими самостями, которых используют как заменимое орудие эксперимента. Как бы почувствовали себя вы, «осознав себя» продвинутым искусственным субъектом, который, при прочном чувстве Я и осознании себя подлинным субъектом, имеет в данном социальном контексте лишь статус товара?

История первых искусственных эго-машин – этих постбиотических феноменальных Я без гражданских прав и без защитников в этических комиссиях – наглядно иллюстрирует, как возможность страдать возникает вместе с феноменальным эго: страдание начинается в тоннеле эго. Отсюда же принципиальный аргумент против научных исследований по созданию искусственного сознания. Альбер Камю говорил о солидарности всех конечных созданий против смерти. В том же смысле все создания, способные страдать, должны быть способны объединиться против страдания. Из такой солидарности нам следует воздержаться от всего, что может увеличить общее количество страдания и смятения во Вселенной. Конечно, на этом этапе возникает множество теоретических осложнений, например, относительно временных рамок страдания или его разных форм и качеств. Несмотря на это, мы можем договориться хотя бы беспричинно и из низших побуждений не увеличивать количество страдания в мире – а создание искусственных машин, по всей вероятности, увеличит его с самого начала. Мы могли бы создать страдающие постбиотические машины, прежде чем поймем, в каких особенностях нашей биологической истории, тела, мозга находится корень наших страданий. Задача предотвращать и уменьшать страдания всюду, где это возможно, относится и к этическому риску. Я думаю, что нам не стоит даже рисковать реализовать проект создания феноменальной я-модели.

Нам – философам, нейроученым и разработчикам искусственного интеллекта – лучше сосредоточиться на понимании и нейтрализации собственных страданий. Пока мы не стали существенно счастливее, чем были наши предки, лучше не пытаться перенести нашу психическую структуру на искусственные носители. Я бы сказал, что следует ориентироваться на классическую для философии цель самопознания и следовать хотя бы минимальному этическому принципу: уменьшать и предотвращать страдание, а не играть, как с огнем, с эволюцией второго порядка, которая вполне может выйти из-под контроля. Если у современной науки о сознании и есть запретный плод, то он состоит в безрассудном умножении страдания посредством создания искусственных эго-машин без ясного осознания последствий.

Машина блаженства: можно ли считать сознательный опыт как таковой благом?

Напрашивается гипотетический вопрос: если бы мы, напротив, могли увеличить количество радости и удовольствия во Вселенной, залив ее самореплицирующимися и блаженными постбиотическими эго-машинами, стоит ли нам это делать? Мое предположение, что первое поколение искусственных эго-машин будет напоминать умственно отсталых детей и принесет больше боли, смятения и страдания, чем удовольствия, радости и проникновения в мир, может оказаться фактически ложным по множеству причин. Такие машины, возможно, будут функционировать лучше, чем мы думаем, и наслаждаться существованием намного сильнее, чем мы ожидаем. Или же мы, как двигатели ментальной эволюции и инженеры постбиотической субъективности, можем сделать это предположение ложным, конструируя только такие сознающие системы, которые либо неспособны переживать феноменальные состояния, подобные страданию, либо смогут наслаждаться бытием в более высокой степени, чем люди. Представьте, что мы сумеем обеспечить машине преобладание позитивных состояний сознания над негативными – что для нее существование будет таким, чтобы жить несомненно стоило. Назовем такую машину «машиной блаженства».

Если мы сможем заселить физическую вселенную машинами блаженства, надо ли это делать? А если новая теория сознания рано или поздно позволит нам превратить себя из старомодных эго-машин, отягощенных ужасами биологической истории, в машины блаженства – надо ли это делать?

Возможно, нет. Существование, которое оправдывает себя, жизнь, которую стоит прожить, состоит не только из определенного качества субъективных переживаний. Этику размножающихся искусственных или постбиотических систем нельзя свести к вопросу, какой явит реальность или существование самой системы для сознания этой системы. Иллюзия может порождать блаженство. Умирающий от рака на высоких дозах морфина и препаратов, улучшающих настроение, может воспринимать себя очень позитивно – как и наркоман может отчасти неплохо справляться с ежедневными ситуациями. Люди веками пытались превратить себя из эго-машин в машины блаженства – с помощью фармакологии или метафизических систем верований и практик изменения сознания. Почему они в целом не преуспели?

В своей книге «Анархия, государство и утопия» уже умерший политический философ Роберт Нозик предложил следующий мысленный эксперимент: У вас есть возможность подключиться к «машине ощущений», которая будет держать вас в состоянии постоянного счастья. Вы согласитесь? Любопытно, что, по наблюдениям Нозика, большинство людей отказываются провести жизнь подключенными к такой машине. Причина состоит в том, что большинство из нас ценит не блаженство как таковое, а желает, чтобы оно было основано на истине, добродетели, художественных достижениях и других формах высшего блага. Иначе говоря, мы хотим, чтобы наше блаженство было оправданно. Мы хотим не иллюзии от машины счастья, а счастья обоснованного и поэтому желаем быть осознанно переживающими жизнь как нечто стоящее. Мы хотим необыкновенного проникновения в реальность, в моральные ценности и красоту как объективные факты. Нозик считал такую реакцию победой над гедонизмом. Он настаивал на том, что мы не желаем просто чистого счастья, если ему не будет сопутствовать контакт с глубинной реальностью, – хотя, конечно, и такая форма субъективного переживания может в принципе быть симулирована. Вот почему большинство из нас, по зрелом размышлении, не стали бы заселять вселенную блаженными искусственными эго-машинами – по крайней мере, такими, которые пребывали бы в постоянном состоянии самообмана. Это ведет к следующей проблеме: все, что мы узнали о транспарентности феноменальных состояний, явно показывает, что «настоящий контакт с реальностью», как и «уверенность», тоже может быть симулирован, и что природа уже наладила такую симуляцию в наших мозгах, создав тоннель эго. Вспомните хотя бы галлюцинаторную деятельность или ложные пробуждения в исследовании сновидений. Разве мы не обманываем себя постоянно?

Если мы серьезно относимся к нашему счастью, если не хотим быть «чистыми» гедонистами, нам нужна абсолютная уверенность, что мы не заняты систематическим самообманом. Разве плохо будет, если новая, эмпирически осведомленная философия сознания и этичная нейронаука помогут нам в этом?