~

Как нам расценивать катастрофические угрозы? Начнем с величайшего экзистенциального вопроса – с судьбы нашего вида. Как и в более узком вопросе личной судьбы, нам точно нужно свыкнуться с фактом нашей смертности. Биологи шутят, что в первом приближении все виды уже вымерли, потому что такая судьба постигла почти 99 % всех когда-либо существовавших организмов. Обычно вид млекопитающих существует около миллиона лет, и сложно понять, почему Homo sapiens должен стать тут исключением. Даже если бы мы оставались технологически неразвитыми охотниками и собирателями, мы все равно жили бы как будто посреди геологического стрельбища[860]. Поток гамма-лучей от сверхновой или сколлапсировавшей звезды может облучить полпланеты, превратить часть атмосферного азота и кислорода в бурую двуокись азота и разрушить озоновый слой, позволив ультрафиолету выжечь оставшуюся половину[861]. Магнитное поле Земли может сменить полярность на противоположную, на какое-то время оставив планету без защиты от смертоносной радиации Солнца и космоса. Астероид может врезаться в Землю, смяв в лепешку тысячи квадратных километров и подняв в воздух пыль, которая затемнит солнце и прольется едкими дождями. Супервулканы или массивные лавовые потоки могут удушить нас пеплом, углекислым газом и серной кислотой. Черная дыра может забрести в Солнечную систему, столкнув Землю с орбиты или же всосав ее внутрь своего горизонта событий. Даже если наш вид просуществует еще миллиард лет, Земля и Солнечная система столько не продержатся: по мере исчерпания на Солнце запасов водорода плотность нашей звезды вырастет, а температура повысится, так что она испарит земные океаны и станет красным гигантом.

Проще говоря, технологии – не причина, по которой наш вид рано или поздно встретится с костлявой старухой, технологии – наша единственная надежда обмануть смерть, по крайней мере на время. Размышляя о гипотетических угрозах далекого будущего, мы должны уделять внимание и гипотетическим достижениям, которые помогут нам их пережить, например выращиванию еды с помощью света термоядерного синтеза или ее производству на промышленных фабриках на манер биотоплива[862]. Даже технологии не такого уж отдаленного будущего могут нас однажды спасти. Нет ничего невозможного в том, чтобы отслеживать траектории астероидов и других околоземных объектов, вычислять те из них, которые могут столкнуться с Землей, и сбивать их с курса прежде, чем они отправят нас вдогонку за динозаврами[863]. Специалисты NASA предложили под давлением закачивать в супервулканы воду, одновременно получая геотермальную энергию и охлаждая магму, чтобы она не вырвалась на поверхность[864]. Наши предки ничего не могли противопоставить этим смертельным угрозам; мы же с вами, благодаря технологиям, живем не в самое опасное, а в самое безопасное время в истории.

Вот почему безосновательны техно-апокалиптические заявления, будто наша цивилизация станет первой, которая сама себя уничтожит. В знаменитом сонете Перси Биши Шелли надпись на изваянии фараона Озимандии напоминает путнику, что большинство когда-либо существовавших цивилизаций исчезли с лица земли. Традиционный взгляд на историю винит в их гибели внешние события вроде эпидемий, завоеваний, землетрясений или изменения климата. Но Дэвид Дойч замечает, что эти цивилизации могли бы выстоять, если бы обладали более совершенными сельскохозяйственными, медицинскими или военными технологиями:

~

Из всех экзистенциальных угроз, предположительно нависших над будущим человечества, выделяется разновидность проблемы 2000 года, характерная для XXI века: опасение, что нас поработит, намеренно или случайно, искусственный интеллект (ИИ), – трагедия, которую иногда называют робокалипсисом и часто иллюстрируют кадрами из фильмов про Терминатора. Как и в случае с проблемой 2000 года, некоторые умные люди воспринимают ее всерьез. Илон Маск, чья компания собирает автомобили, управляемые искусственным интеллектом, заявил, что эта технология «опаснее атомной бомбы». Стивен Хокинг, вещая через свой снабженный искусственным интеллектом синтезатор речи, предупредил, что она способна «возвестить конец рода человеческого»[867]. Но есть и другие умные люди, которые не теряют по этому поводу сна и покоя, – в их числе большинство специалистов по искусственному интеллекту и специалистов по интеллекту человека[868].