Опять же, предполагая, что наши нейроны контролируют наши реакции и что они были идеально смоделированы, мы будем ожидать от симуляции характерного для вас поведения.

Наконец на последнем этапе ваш мозг будет полностью заменен симуляцией. Вас снова спросят: «Как вы себя чувствуете?» – и вы дадите типичный для вас ответ. Если симуляция работает хорошо, вы скажете, что обладаете сознанием. Если спросят, уверены ли вы в этом, ответите: «Да!» (По крайней мере, если вы относитесь к тому типу людей, которые и до загрузки были уверены, что сознательны.) Вы, вероятно, решите, что это совершенно убедительное доказательство того, что машины могут иметь сознание.

В книге 2019 года «Искусственный ты»* американский философ Сьюзан Шнайдер скептически высказывается о перспективе появления сознания у машин и возможности сохранить сознание в процессе загрузки. По мнению Шнайдер, если бы ее загрузили в машину, то, скорее всего, она превратилась бы в философского зомби. Конечно, этот свежеиспеченный зомби мог бы нам сказать: «Я все еще здесь» и «Я обладаю сознанием», но ведь именно это мы ожидали бы услышать от зомби.

Однако скептикам вроде Шнайдер можно задать несколько неудобных вопросов. Если постепенная загрузка сохраняет ваше поведение, но в конечном счете устраняет ваше сознание, то что же происходит с сознанием во время самой процедуры? Предположительно, после замены всего нескольких биологических нейронов на их симуляции вы будете по-прежнему полностью в сознании. А что будет после замены четверти вашего мозга или половины, как показано на рисунке 39? Ваше сознание угаснет постепенно? Или оно исчезнет внезапно?

Рисунок 39. Сьюзан Шнайдер подвергается постепенной загрузке

В книге «Сознающий ум» я назвал это аргументом «блекнущих квалиа», поскольку он фокусируется на идее о том, что качества (или квалиа) вашего сознательного опыта могут постепенно исчезать. Похоже, что те, кто скептически относится к перспективе появления сознания у машин, могут занимать две позиции.

Во-первых, можно предположить, что ваше сознание исчезает внезапно, – то есть вы переходите от полной осознанности к отсутствию сознания после замены очередного нейрона, роль которого по стечению обстоятельств становится критической. Тогда это был бы экстраординарный скачок, не похожий ни на что наблюдаемое нами в природе. Возможно, замена одного нейрона могла бы отключить сознание, если бы она отключала значительную часть мозга; но если замена нейронов выполняется достаточно аккуратно, то остальная часть мозга останется незатронутой. Более того, мы можем локально растянуть нашу процедуру, заменяя субмикроскопические части критического нейрона по одной за раз, пока в конечном счете не найдем критический кварк, замена которого приводит к полному разрушению сознания. Гипотеза критического кварка кажется еще более неправдоподобной, чем гипотеза критического нейрона. Более вероятно, что сознание постепенно угасает, чем то, что оно исчезает внезапно.

Это подводит нас ко второму варианту: ваше сознание ослабевает постепенно, поэтому есть моменты, когда оно притухает, но еще не исчезает. Возможно, некоторые аспекты вашего первоначального сознания остались, а другие исчезли. Или, возможно, все они в равной мере поблекли. Но, поскольку ваши нейроны были заменены их совершенными симуляциями, ваше поведение останется прежним. На протяжении всего процесса вы будете клясться, что находитесь в полном сознании, с нормальными, а не затуманенными сознательными переживаниями. Так что в этом случае такому скептику, как Шнайдер, придется признать, что вы заблуждаетесь относительно своего сознания. В промежуточный момент, когда ваше сознание лишь частично угасло, вы по-прежнему остаетесь сознательным существом (не зомби) и не проявляете никакой очевидной иррациональности. Тем не менее вы полностью утрачиваете связь с собственным сознанием – вы думаете, что с ним все в порядке, когда на самом деле оно исчезает. Это тоже кажется довольно странным.

Есть третья гипотеза, которая гораздо более правдоподобна: ваше сознание остается нетронутым на каждом этапе операции и присутствует в конце процесса. Эта гипотеза позволяет избежать неправдоподобности плавного угасания или внезапного исчезновения сознания и не вызывает возражений, подобных тем, с которыми сталкиваются другие упомянутые гипотезы. Однако из этой гипотезы следует, что симулированный мозг может быть сознательным. По крайней мере в том особом случае, когда используется способ постепенной загрузки, симуляция мозга полностью сохранит сознание.

Раз мы дошли до этого этапа, то теперь естественно сделать вывод, что симуляции мозга и в целом могут обладать сознанием, по крайней мере, когда мозг, который служит исходной моделью для симуляций, сознателен. Для любой обладающей сознанием системы можно запустить сценарий постепенной загрузки, ведущий к симулируемой версии. Тогда рассуждения, приведенные выше, позволят предположить, что такие симуляции обладают сознанием. Я полагаю, кто-то мог бы подумать, что только постепенно загружаемые симуляции обладают сознанием, возможно, потому, что они переносят из исходного мозга душу. Но это делает сознание неоднородным и вызывает беспокойство, ведь почти любая система может оказаться зомби, в зависимости от того, привязана она к душе или нет. Более правдоподобно выглядит мысль, что если сознание присутствует в одной симуляции мозга, то оно будет присутствовать во всех симуляциях сознательного мозга.

Вывод

Если я прав, то симулированный мозг может обладать сознанием. Точнее, если система с биологическим мозгом сознательна, система с совершенной симуляцией этого мозга тоже будет обладать сознанием и тем же типом сознательного опыта.

Этот вывод уточняет положения гипотезы симуляции. В чистой симуляции, как правило, будет много симулированных мозгов. Если в исходном мире много осознанных существ, то, как следует из наших рассуждений, в его симуляции будет идентичное количество осознанных существ с таким же типом сознания. Отсюда следует, что наше сознание не исключает гипотезу чистой симуляции. Оно одинаково совместимо как с симулированной, так и с не-симулированной реальностью. Более того, теперь у нас есть веские основания полагать, что сознание субстратно нейтрально, поэтому одно из основных препятствий для гипотезы симуляции (из второй главы) и аргумента симуляции (из пятой главы) теперь устранено.

Все это укрепляет точку зрения о том, что виртуальная реальность – это подлинная реальность, поскольку позволяет утверждать, что симулированный разум – это подлинный разум. Рассмотренные аргументы поддерживает также перспектива появления искусственного сознания, не основанного на симулированном мозге. Как только мы узнаем, что одна компьютерная система способна обладать сознанием, то можем ожидать, что таких систем появится еще много.

Наконец, все это делает более привлекательной идею загрузки сознания. Напомним, что тремя потенциальными препятствиями для загрузки в цифровую среду были интеллект, сознание и идентичность. Будет ли загруженная система вести себя так же, как мы? Теперь кажется вероятным, что да, если только наш мозг и поведение управляются законами, которые можно смоделировать. Будет ли загруженная система сознательной?