полномасштабного моделирования потребуется также создать окружающую среду, но нет видимых причин, по которым это должно увеличивать рабочую нагрузку более чем на два-три порядка. Таким образом, для всего этого потребуется скорость вычислений около 1039 флопсов. И даже если прогресс замедлится, это, в принципе, все еще будет в пределах возможностей будущих компьютеров.

В нынешнем виде Вселенная обладает огромным неиспользуемым потенциалом для вычислений*. В громадном пространстве содержится гигантское количество материи. Материя также имеет обширную микроструктуру, которую можно использовать для вычислений. Как в 1959 году озаглавил посвященную нанотехнологиям лекцию Ричард Фейнман: «Внизу много места». Физик Сет Ллойд подсчитал, что теоретически система весом в один килограмм может выполнять до 1050 операций в секунду. Этот метод использует быстро испаряющуюся черную дыру, поэтому у него много ограничений, но предлагались и другие методы, которые выполняют более 1040 операций в секунду. Даже с небольшой долей этих ресурсов эффективное моделирование огромных популяций окажется тривиальным.

Если Вселенная конечна, то будут и пределы. В один прекрасный день большая часть доступной материи может быть превращена в компьютроний* – гипотетическое состояние, в котором материя используется для вычислений настолько эффективно, насколько это вообще возможно. С этого дня создание новых крупных симуляций может стать непомерно трудным. Однако этот день находится гораздо дальше в будущем, чем тот, когда симуляции станет легко создавать. Логично предположить, что к тому моменту в нашем далеком будущем количество симуляций значительно превысит количество не-симуляций. Таким образом, долгосрочный предел мощности компьютеров не представляет собой большого препятствия для рассматриваемого аргумента.

Однако вас может обеспокоить другое: если мы находимся в симуляции, все имеющиеся свидетельства о спрятанных в физике окружающего мира теоретических запасах вычислительных мощностей могут оказаться фикцией*. Может быть, разработчики поместили нас в недорогую симуляцию, возможности которой не простираются так далеко. Если это так, то, когда мы попытаемся создать гигантские симуляции, мы можем потерпеть неудачу. Ясно, что разработчики нашей симуляции обладают возможностями поддерживать, как минимум, одну симуляцию, но, быть может, – не миллионы симуляций, которые указаны в первой предпосылке. Однако это возражение имеет под собой почву только в том случае, если мы уже находимся в симуляции, – а если мы в симуляции, то можем гораздо быстрее прийти к выводу о том, что мы, вероятнее всего, находимся в симуляции!

Не-симы вымрут раньше, чем появятся симы*. Звучит пессимистично, однако мы понимаем, что подобное вполне возможно. Технологии создания ядерного оружия уже сейчас способны уничтожить большую часть или все человечество на этой планете. Многие считают, что нанотехнологии вскоре смогут делать то же самое, запустив на микроскопическом уровне цепную реакцию, которая превратит все в «серую слизь». Уже в этом столетии искусственный интеллект сможет стать достаточно мощным для того, чтобы уничтожить, если пожелает, всю разумную жизнь на Земле. Эти возможности иногда называют «экзистенциальными рисками»* – рисками, которые угрожают самому существованию людей и разумной жизни в целом.

Некоторые экзистенциальные риски, вероятно, трудно избежать. Все, что нам нужно, – это разрушительная технология, отвечающая следующим условиям. Во-первых, ее неизбежно обнаружат популяции человеческого уровня развития. Во-вторых, ее достаточно легко и заманчиво использовать, к чему неизбежно и приведет открытие. В-третьих, она настолько разрушительна, что при ее использовании погибнут все. Нетрудно представить, что в итоге сверхразрушительные ядерные технологии могут стать доступными практически кому угодно, что приведет к неизбежной гибели. То же самое может касаться нанотехнологий, искусственного интеллекта или какой-нибудь неизвестной пока технологии. Если и есть надежда, то она заключается во втором условии. Возможно, существует какой-то способ предотвратить использование всеразрушающей технологии. Но к гипотезе о том, что разумные цивилизации неизбежно уничтожат сами себя, следует отнестись серьезно.

Эта гипотеза могла бы объяснить некоторые наши наблюдения. Например, почему мы никогда не видели признаков внеземного разума – разумные популяции уничтожают себя примерно в то же время, когда обретают способность посылать сигналы. Это также могло бы объяснить, почему кажется, что мы живем в начале истории человечества. Эти рассуждения лежат в основе так называемой теоремы о конце света, придуманной астрофизиком Брэндоном Картером и философом Джоном Лесли. Их ключевое утверждение заключается в том, что с вероятностной точки зрения любой из нас может предполагать, что до него на Земле родилось примерно столько же людей, сколько родится после. Учитывая быстрый рост человеческой популяции, это означает, что стоит ожидать окончания существования человечества в течение столетий, а не его продолжения еще на миллионы лет (в этом случае мы были бы в самом начале истории человечества).

Тем не менее гипотеза о том, что почти все популяции человеческого уровня погибают до того, как получают возможность создать множество симуляций, была бы удивительной, окажись она верна. Разумно предположить, что хотя бы одна из десяти популяций человеческого уровня будет обладать достаточной коллективной рациональностью, чтобы не уничтожить саму себя; или, если для вас это вдруг слишком оптимистично, мы можем рассмотреть версию аргумента, требующую выживания лишь одной из тысячи популяций.

Не-симы предпочтут не создавать симов. В этом сценарии популяции человеческого уровня развивают способность создавать множество симуляций с популяциями, однако в итоге они отказываются от реализации этой возможности. Возможно, они считают это слишком рискованным. Возможно, те немногие популяции, которые пережили появление всех разрушительных технологий, крайне не любят рисковать и беспокоятся, например, о том, что симы сбегут из симуляции и захватят их мир. Возможно, они считают неэтичным создавать мир, в котором симы могут пострадать. Или, возможно, им просто неинтересно – у них могут быть иные приоритеты.

Тем не менее для создания этих симуляций существует множество серьезных стимулов. Во-первых, обычное любопытство, в том числе научное – запустив симуляцию, можно узнать много нового. Уже сейчас для ученых привычно запускать на ночь тысячи небольших компьютерных симуляционных моделей и, возвращаясь утром, собирать результаты. Легко представить, как то же самое будет происходить с моделированием популяций. Здесь также может присутствовать практическое соображение – прежде чем принять сложное решение, часто имеет смысл сначала его смоделировать и посмотреть, как пойдут дела*. И с этической точки зрения, вероятно, возникнет необходимость создавать миры, в которых хорошее значительно перевешивает плохое. Учитывая возможность создавать симуляции и стимул для этого, было бы удивительно, если бы этим занималось лишь небольшое число популяций.

Будет создано больше не-симов, чем симов. Могли бы мы создать для всех этих целей не-симов вместо симов? Например, использовали бы роботов в физическом пространстве. А чтобы смоделировать нашу историю, населили бы терроформированную среду искусственными биологическими организмами.

В принципе это было бы возможно, однако создание симов выглядит значительно дешевле и проще. Не-симы требуют