новая, и правила здесь формируются с разной скоростью для разных сторон[447]. Если страна — участница конфликта приняла политику «упреждающей защиты», как это случилось в США, повышается вероятность недопонимания или обострения ситуации. В этом вопросе также можно присмотреться к опыту холодной войны и поведению менее агрессивных ее участников. К концу войны сформировались вполне определенные нормы и правила, созданные для предотвращения непреднамеренной эскалации конфликтов. Странам удалось обозначить четкие и недвусмысленные границы допустимого. К примеру, предполагалось, что статья 5 Договора НАТО однозначно описывает ситуацию и необходимые действия: нападение на одну из стран — участниц альянса рассматривается как нападение на всех участников НАТО. Однако в экспоненциальную эпоху подобные правила требуют уточнений. Лишь в 2019 году страны НАТО начали официально обсуждать, считать ли кибератаки поводом для действий в соответствии со статьей 5[448].

Существует также принцип нераспространения. Посредством формальных и неформальных средств мы можем объявить некоторые формы атак недопустимыми — либо по закону, либо по общему соглашению. Мы уже делали это прежде. В 1925 году было запрещено химическое и биологическое оружие, которое и по сей день применяется крайне редко — даже теми странами, которые в целом склонны демонстрировать презрение к общемировым нормам. С 1997 года почти прекратилось применение противопехотных мин. В 2008 году страны пришли к соглашению о запрете кассетных бомб. Во многих случаях подобные договоренности дают результат просто потому, что запрещают частным компаниям, а именно производителям оружия, выпускать вооружение определенного типа, делая его недоступным ни для регулярной армии, ни для отдельных злоумышленников.

Как мог бы выглядеть свод соглашений о нераспространении в цифровую эпоху? Для начала можно взяться за деятельность хакеров. Не так давно Институт кибербезопасности призвал к принятию превентивных мер против широко доступных программных решений для хакерских атак, получивших говорящее название «вторжение как услуга»[449]. Здесь тоже главная цель — запретить частным компаниям разрабатывать вредоносные программные решения. Возьмем для примера компанию NSO Group, которая занимается разработкой программ-шпионов для злоумышленников разного рода[450]. Их флагманский продукт — Pegasus, который, судя по всему, способен проникать в мобильные телефоны и полностью их контролировать. Десятки журналистов и активистов по всему миру убеждены, что Pegasus используется, чтобы шпионить за их работой[451].

В будущем нам придется создать законодательную базу, которая будет регулировать использование автономных систем вооружения. Пока лишь несколько стран выступают за полный запрет такого оружия. В целом в мире сложилось мнение о недопустимости полной и бесконтрольной автономии: «человеческий контроль» в том или ином виде необходимо сохранить как важнейший аспект разработки, использования и управления[452]. Необходимо действовать, причем быстро, чтобы формулировать новые правила, соответствующие стремительно развивающимся технологиям в области создания оружия.

На нынешний момент многие из законов в этой сфере кажутся совершенно неэффективными. И дело не только в том, что террористические группировки или отдельные страны, не признающие международных норм, используют экспоненциальные технологии в военных целях. Все мы прекрасно знаем, что в годы правления Барака Обамы США стали активно использовать дроны для проведения военных операций. Как показывает пример Stuxnet, кибератаки могут быть полезным инструментом и в арсенале богатых стран. Сложно призывать к мораторию на такую популярную тактику, когда сам с удовольствием ее используешь.

Однако ничего не делать — неприемлемый вариант. Экспоненциальные технологии приведут к обострению конфликтов как за счет ослабления национального порядка, так и потому, что вооружение и организация военных операций будут становиться все более доступными. Сегодня потенциальной поверхностью атаки является что угодно, а потому каждому нужно знать, как себя защитить. В то же время у злоумышленников появляются и инструменты развязывания и ведения реальных боевых действий, страшных и кровавых. Без новых систем защиты и разрядки мир рискует превратиться в поле боя.

Разговоры о национальной оборонной политике вынуждают затрагивать вопросы, связанные с внутренними делами отдельных стран. Главная задача любого государства — защита граждан от угроз и агрессии и обеспечение возможностей для полноценной мирной жизни. Военные конфликты — лишь одна из возможных опасностей. Под воздействием экспоненциальных технологий могут страдать многие сферы повседневной жизни, связанные с отношениями между потребителями и рынками, гражданами и обществом. Как станет ясно из следующей главы, мы обязаны приложить гораздо больше усилий, чтобы созданное нами общество вообще стоило защищать.

Глава 8. Экспоненциальные граждане

8 июня 1972 года Военно-воздушные силы Южного Вьетнама сбросили бомбы с напалмом на деревню Транг Банг, расположенную примерно в тридцати пяти километрах к северо-западу от Сайгона. Среди пострадавших была девятилетняя Фан Тхи Ким Фук: из-за сброшенной над ее домом смеси бензина с солями алюминия она получила ожоги 30% тела.

Фотография Фук, убегающей от огня, раздетой и плачущей, стала одной из самых знаменитых антивоенных фоторабот. В 1973 году фотограф Ник Ут получил за нее Пулицеровскую премию. Этот снимок и сейчас остается одним из мощных символов жестокости и ужасов войны.

Однако руководство Facebook смотрит на дело иначе. Спустя примерно сорок лет после той войны журналист норвежской газеты Aftenposten опубликовал материал об истории военной фотографии. Анонс статьи и ту самую фотографию Фук он опубликовал в сети Facebook. Через несколько часов фотография была квалифицирована как детская порнография и удалена. Когда журналист попытался оспорить это решение, была заблокирована его страница в сети, а компания Facebook выпустила заявление, категорически отказавшись менять свое мнение[453]. «Мы признаем, что перед нами культовая фотография, однако сложно определить, в каких случаях допускается публикация обнаженных детей, а в каких нет» — говорилось в заявлении компании[454]. Видя обострение конфликта, фото опубликовала Эрна Солберг, премьер-министр Норвегии, — и Facebook его тут же удалил. Лишь под давлением общественности и при поддержке прессы удалось добиться отмены принятого решения о необходимости цензуры публикаций ведущей норвежской газеты и премьер-министра страны[455].

В сентябре 2016 года подобная ситуация была для Facebook неоднозначной. Сам факт, что такое серьезное решение может быть принято по приказу какого-то начальника из Пало-Альто, тогда казался шокирующим. Но всего через несколько месяцев станет совершенно очевидным масштаб влияния Facebook на всю общественную жизнь: это произойдет в ходе расследования возможного вмешательства России в ход президентских выборов в США. В течение следующих четырех лет компании Facebook придется не раз отвечать на вопросы о том, что и кто подвергается цензуре в этой социальной сети.

Facebook — самая влиятельная медиаплатформа в мире, крупнейшая из социальных