желание продолжать жить? Как мне кажется, да. Если мы не должны убивать такого вулканца, это показывает, что важны не только эмоционально окрашенные состояния сознания, но и другие ментальные аспекты. Мы могли бы рассмотреть еще более экстремальный вид вулканца – не только безэмоционального, но и безразличного как к продолжению жизни, так и к смерти. На мой взгляд, убивать этого вулканца тоже было бы чудовищно. Это говорит о том, что имеет значение не только эмоциональное сознание и удовлетворение желаний. На мой взгляд, другие аспекты сознания тоже важны.)

Лично я считаю, что вулканец так же важен, как и обычный человек. Разумеется, я рад, что родился человеком, а не вулканцем, поскольку эмоции ценны для меня. Страдание и счастье играют важную роль в жизни сознательного существа. Но не они придают существу моральный статус в первую очередь.

Однажды Бентам сказал, что, когда речь заходит о моральном статусе животных, «вопрос не в том, могут ли они рассуждать? Или могут ли они говорить? Но могут ли они страдать?» Если я прав, то важно не страдание, а сознание. Правильный вопрос не в том, «могут ли они страдать?», а «обладают ли они сознанием?».

Чтобы определить моральный статус симулированных существ, нам также необходимо задать вопрос «обладают ли они сознанием?». Мы уже задавались этим вопросом ранее в отношении некоторых видов симов и отвечали на него. В пятнадцатой главе я показал, что совершенная симуляция человеческого мозга будет ассоциироваться с тем же типом сознания, что и оригинальный биологический мозг. То есть симулированные люди будут обладать тем же типом сознания, что и обычные люди. Если сознание – это все, что имеет значение для морального статуса, то симулированные люди будут иметь тот же моральный статус, что и обычные люди.

Этика симуляций

Теперь мы можем ответить на симуляционную проблему вагонетки. Ответ отрицательный: неприемлемо убивать пятерых симулированных людей ради спасения одного обычного. Если бы симулированные люди не обладали сознанием, это было бы приемлемо. Но поскольку полномасштабные симуляции людей обладают во многом таким же, как у нас, сознанием, то и моральный статус они имеют тот же, что и мы.

С определенной точки зрения этот вывод может показаться необоснованным. Неужели вы пожертвуете человеческой жизнью ради спасения нескольких компьютерных процессов? Но мы можем задать этот вопрос с другого ракурса, предположив, что мы сами находимся в симуляции. Если мы в симуляции, этично ли для наших создателей убить пятерых из нас, чтобы спасти жизнь одного из своих во вселенной более фундаментального уровня? Я бы сказал, что, с нашей точки зрения, ответ отрицательный. Даже если у создателей есть необходимая для этого сила, это вовсе не делает убийство правильным. То же касается и наших собственных действий по отношению к сознательным людям в созданных нами симуляциях.

Кто-то может сказать, что, хотя сознание и важно для морального статуса, другие факторы тоже имеют значение. Например, возможно, несимулированные люди имеют более высокий моральный статус, чем симулированные, просто потому, что находятся во вселенной высшего уровня. Или, возможно, краткосрочные симуляции менее важны просто потому, что длятся недолго. Однако на мой взгляд, эта точка зрения неоправданна. И опять же, давайте снова представим, что мы являемся обитателями симуляции, и речь идет о нас. Почему тот факт, что мы не находимся во вселенной высшего уровня, должен делать наше убийство более этичным?

Я склонен думать, что по отношению к симам у нас примерно те же моральные обязательства, что и по отношению к не-симам. Если что-то вредит обычному человеку, то же самое вредит и симу. Убивать симов будет так же плохо, как убивать обычных людей. Воровать у симов будет так же плохо, как воровать у обычных людей. Эксперименты над симами могут иметь те же моральные ограничения, что и эксперименты на людях. И так далее.

Однако все это касается того, как мы должны будем вести себя по отношению к симам уже после их появления. А что можно сказать по поводу наличия или отсутствия у нас морального права создавать симов и симуляции в целом?

Давайте начнем с крайних случаев. Допустимо ли создавать симуляцию с участием миллиона сознательных существ, которые испытывают муки на протяжении всего своего существования? Я бы сказал, что очевидно нет. А нормально ли создавать симуляцию с участием миллиона сознательных существ, которые ведут в основном счастливую, насыщенную жизнь? На первый взгляд это кажется приемлемым.

Кто-то может возразить, что даже в симуляциях с миллионом счастливых людей мы «играем в богов». Я считаю, что мы не должны легкомысленно относиться к созданию подобных симуляций. Следует хорошенько обдумать свои действия. Возможно, общество захочет наложить строгие ограничения на то, кто может создавать симуляции вселенной и с какими намерениями.

В то же время сложно понять, почему создание счастливой симуляции было бы аморальным. В конце концов, размножаясь, мы же создаем новые осознанные жизни. Опять же, к этому нельзя относиться легкомысленно. Философы иногда утверждают, что размножение аморально*, поскольку в любой жизни содержится страдание, но с этим согласны очень немногие. Если допустимо произвести на свет обычного человеческого ребенка, то должно быть приемлемо и создание симуляции.

Допустимо ли с моральной точки зрения создавать симов со значительным перевесом счастья по отношению к страданию? Утилитарист может сказать, что это будет нелучший поступок, поскольку предпочтительнее создать мир, где счастье бьет ключом, а страданий нет совсем, и обеспечить процветанием как можно большее число индивидов. Согласно утилитаристской логике, мы должны создать самую масштабную симуляцию, на какую только способны, с симами, которые будут исключительно счастливы и никогда не будут страдать. Возможно, симуляции будут допускать небольшие страдания, поскольку те могут сделать жизнь лучше. Однако даже с этой точки зрения великодушный разработчик запустит самую совершенную из всех возможных симуляций.

Лейбниц считал, что именно так и должен поступать Бог – создавать лучший из возможных миров; соответственно, наш мир – лучший из возможных. Если в нем и есть зло, то оно необходимо затем, чтобы мир был настолько хорош, насколько это вообще возможно.

С другой стороны, разработчики VR могут запустить несколько симуляций. Предположим, что мы уже создали наилучшую из возможных симуляций и теперь подумываем о второй, которая чуть хуже, но в целом замечательна. Стоит ли ее создавать? Кто-то может сказать «нет»: лучше создать копию лучшей симуляции. Однако можно возразить, что идентичная копия не имеет ценности оригинала. Вот один из возможных вариантов развития событий: насколько нам известно, когда две симуляции идентичны, они поддерживают идентичные популяции