сознательных существ, поэтому вторая симуляция избыточна. Если так, то, возможно, было бы предпочтительнее создать вторую по качеству симуляцию вместо копии лучшей. Создание второй по качеству симуляции, по крайней мере, тоже привнесет в мир много добра. Согласно этой точке зрения, может существовать моральный императив создавать как можно больше симуляций, в которых счастье будет преобладать над страданиями.

Этот пример можно использовать для формирования теодицеи симуляции*. Теодицея – это теологическое объяснение того, почему Бог допускает существование в мире зла. Теодицея симуляции – это оправдание действий разработчиков. Одна из теодицей симуляции гласит, что благой разработчик симуляций должен создавать миры с преобладанием счастья. Это приведет к появлению в мире страданий только в том случае, если счастье все же будет превалировать над ними. Если гипотеза симуляции верна, то эта идея, вероятно, могла бы даже объяснить существование зла в нашем мире. Или, может быть, наши создатели не особенно великодушны, и у них есть иные приоритеты, помимо благополучия созданных существ.

Другая теодицея симуляции гласит, что разработчики не всемогущи и поэтому не способны учесть все процессы в симуляции. Если бы результат можно было заранее предсказать, было бы меньше причин запускать симуляцию! Поэтому, создавая симулированные вселенные, не стоит рассчитывать на то, что удастся избежать возникновения страданий. Какое-нибудь зло проявит себя непредсказуемым образом. Тем не менее мы можем иметь некоторое представление о том, какие симуляции приводят к хорошей жизни, а какие – нет. А раз так, то при прочих равных условиях мы должны стремиться к первым.

Многие этические теории укажут на то, что моральная сторона создания симуляции может зависеть от наших мотивов. Например, принцип гуманности Иммануила Канта гласит, что нужно относиться к людям не просто как к средству достижения целей, но как к самоцели. Мы всегда должны признавать человечность других и принимать ее во внимание. Неочевидно, что Кант распространил бы свой принцип на не-людей (скажем так), которые обладают разумом и сознанием, или на симулированных людей, но было бы вполне естественно так предположить. Принцип гуманности, который ограничивался бы исключительно людьми, являлся бы видовой дискриминацией. Симы тоже живые создания! Нам нужен расширенный принцип гуманности, распространяющийся на всех сознательных индивидов: мы всегда должны относиться к индивиду не как к средству достижения цели, а как к самоцели.

Расширенный принцип гуманности гласит, что мы должны относиться к симам не как исключительно к средству достижения цели, а как к самоцели. То есть с моральной точки зрения неправильно создавать симулированную вселенную (населенную при этом сознательными существами) просто для развлечения, или просто для предсказывания будущего, или просто для пользы науки. Мы должны уважать индивидуальность созданных нами существ. Создание симулированных вселенных для упомянутых целей может быть допустимо, но только если имеет место уважительное отношение к симам. Например, мы разрешаем и проводим научные эксперименты на людях в тех случаях, когда не причиняется вред испытуемым. Аналогичным образом мы можем запускать симуляции для научных целей в тех случаях, когда это является благом для симулируемых субъектов. Конечно, такой подход затруднит симуляцию неприятных ситуаций. Полномасштабные симуляции войн могут оказаться запрещены. Воспроизведение в симуляции войны только для того, чтобы принести пользу обитателям другой вселенной, нельзя назвать отношением к участникам подобной симуляции как к самоцели.

Будут ли создатели симуляций на самом деле подчиняться этим нормам морали? Вполне возможно, что и нет. У человечества долгая история несоответствия моральным идеалам. Симы могут оказаться настолько удобными и полезными, что их будут эксплуатировать, не задумываясь о морали. В «Черном зеркале» персонажи создают симов, чтобы те готовили им завтраки и помогали тестировать потенциальных романтических партнеров. Легко представить, что к симам будут относиться как к расходному материалу. Также легко представить борьбу за предоставление симам тех же прав, что и обычным людям. Я не берусь предсказывать, какой подход в итоге победит. Но если Мартин Лютер Кинг-младший был прав, и длинная дуга нравственной вселенной склоняется к справедливости, то она склонится и к предоставлению симам равных прав.

Глава 19

Как нам следует строить виртуальное общество?

Предупреждение о триггере: в следующих параграфах описывается виртуальное сексуальное насилие в основанном на текстах виртуальном мире.

В 1993 году самыми популярными виртуальными мирами для социального взаимодействия были MUDs – Multi User Domains или многопользовательские миры. MUDs представляли собой текстовые миры без графики. Пользователи с помощью текстовых команд перемещались по «комнатам» и взаимодействовали друг с другом. Одной из самых популярных MUD-игр была LambdaMOO, планировку которой создали по образу калифорнийского особняка. Однажды вечером несколько пользователей беседовали в «гостиной». Пользователь по имени мистер Бангл внезапно применил «куклу вуду» – инструмент, который позволяет приписывать действия другим участникам, например генерировать текст вроде «Джон пинает Билла». Мистер Бангл создал видимость того, что один из пользователей совершает сексуальные и насильственные действия по отношению к двум другим. Те были в ужасе и чувствовали себя оскорбленными. В последующие дни велось множество споров о том, как реагировать на подобное в виртуальном мире, и в итоге модератор удалил мистера Бангла из MUD.

Почти все были согласны с тем, что мистер Бангл поступил неправильно. Но как мы должны понимать его неправоту? Тот, кто считает виртуальные миры вымыслом, может сказать, что данный опыт сродни чтению короткого рассказа, в котором на вас нападают. Нарушение остается серьезным, но по своему характеру отличается от настоящего нападения. Однако большинство в сообществе MUD понимало это иначе. Журналист в сфере технологий Джулиан Диббелл сообщил о разговоре* с одной из жертв нападения:

«Спустя месяцы эта женщина… призналась мне, что, когда она писала эти слова, по ее лицу текли посттравматические слезы, – реальный факт, которого должно быть достаточно для доказательства того, что эмоциональное содержание слов не было фикцией».

Виртуальный реализм выносит тот же вердикт. Нападение в MUD было не просто вымышленным событием, от которого пользователь дистанцировался. Это было реальное виртуальное нападение, которое действительно произошло с жертвой.

Было ли нападение мистера Бангла таким же ужасным, как аналогичное сексуальное насилие в невиртуальном мире? Возможно, нет. Раз пользователи в MUD придают своим виртуальным телам меньшее значение, чем невиртуальным, то вред соответственно уменьшается. Тем не менее по мере развития наших отношений с собственными виртуальными телами проблема станет более сложной. C аватаром, в которого человек воплощается годами, он будет отождествлять себя гораздо сильнее, чем с персонажем в краткосрочной текстовой среде. Австралийский философ Джессика Вулфендейл считает, что такая «привязанность к аватару»* морально значима. По мере того как чувственный опыт наших виртуальных тел будет