Распространение оборонного ИИ изменит международное равновесие и те расчеты, путем которых оно до сих пор поддерживалось. Ядерное оружие стоит дорого, и его трудно скрыть. Создание ИИ тоже может потребовать ресурсов крупных компаний или целых государств, но поскольку использование ИИ осуществляется на относительно небольших компьютерах, то ИИ в целом будет широко доступен, в том числе способами, для которых он не был предназначен. В результате не будет ли ИИ-оружие доступно любому, у кого есть ноутбук, подключение к интернету и соответствующая квалификация? Будут ли правительства снабжать ИИ-вооружением наемников? Будет ли ИИ доступен террористам? Смогут ли они обвинять в совершенных ими преступлениях государства или другие субъекты?

Влияние ИИ на международные отношения будет весьма значительным. Расширятся как диапазон доступной информации, так и свобода действий для дипломатии. Национальные границы буквально растворятся. ИИ-переводчики облегчат межъязыковое общение – и одновременно подвергнут серьезным испытаниям представителей разных народов, не готовых к восприятию чужой национальной культуры. Сетевые платформы с поддержкой ИИ будут распространять свободное слово через границы, но хакерство и дезинформация станут искажать восприятие и оценку этих коммуникаций. В результате будет все сложнее достигать реализуемых соглашений с предсказуемыми результатами.

ИИ углубляет стратегический парадокс, который заключается в том, что человечество на протяжении 70 лет развивало ядерное оружие, но так и не разработало доктрину его применения, совместимого с какой-либо рациональной целью. Мы выделяем миллиарды на технологию настолько разрушительную, что мы не можем найти ей применение, не считая самых экстремальных сценариев. Если стратегия – это рациональное применение средств для достижения цели, то ядерное оружие несовместимо ни с какой стратегией.

Интеграция ИИ и кибероружия только усугубляет эту дилемму. Человечество ушло от решения ядерного парадокса, резко разграничив обычные силы, совместимые с рациональными стратегическими целями, и ядерное оружие. Ядерное оружие воплощало грубую силу, а обычные вооружения – избирательное применение силы. Но непредсказуемое и разрушительное кибероружие стирает этот барьер, а с внедрением ИИ оно становится еще более непредсказуемым и разрушительным. Оно может перемещаться по сетям, поэтому его нельзя обнаружить. Оно не поддается обычному контролю – в отличие от ядерного оружия, кибероружие можно носить на флеш-картах, – и легко тиражируется. Некоторые формы кибероружия после их развертывания трудно контролировать, особенно учитывая динамичную и эмерджентную природу ИИ.

Такая ситуация ставит под сомнение сами основы международного порядка, основанного на правилах[79]. Мы обязаны разработать концепцию контроля ИИ-вооружений. Сдерживание в эпоху ИИ будет работать по-другому. На заре ядерной эры дискуссии между ведущими профессорами Калифорнийского технологического института, Гарвардского университета и Массачусетского технологического института, имевшими опыт работы в правительстве, привели к созданию концепции контроля над ядерными вооружениями. Несмотря на важность вопросов, эти обсуждения проводились отдельно от военных разработок министерства обороны США. Но потенциальное военное применение ИИ шире, чем у ядерного оружия, и на данный момент неочевидна дифференциация между наступлением и обороной.

В этом сложном и непредсказуемом мире ИИ создает еще один возможный источник заблуждений и ошибок, поэтому великим державам, обладающим высокотехнологичным потенциалом, придется вступить в диалог. Такой диалог должен быть сосредоточен на главном – на предотвращении катастрофы. Все стороны должны сделать все возможное для предотвращения войны. Это потребует взаимного признания перемен, которые переживает мир, их потенциальных выгод и вызовов, которые они бросают самим основам нашей общественной жизни. Таким образом, эволюция дипломатии, безопасности и стратегии должна будет сопровождаться аналогичной эволюцией философских концепций.

В период больших перемен философы эпохи Просвещения рассматривали природу реальности, природу сознания и взаимосвязь между ними. Разработанные ими принципы по-прежнему важны для нынешней эпохи, но начинающаяся эра ИИ бросает им вызов. Декарт провозгласил: «Я мыслю, следовательно, я существую», – это утверждение популярно и сегодня. Но затем Кант предположил, что восприятие человека отражает лишь структуру его разума, а не саму реальность – более того, сущность реальности находится за пределами нашего понимания. Нас ожидает следующая фаза этой философской эволюции, которая еще не нашла своего воплощения. Если ИИ обеспечивает иное или более точное восприятие реальности, дальнейшее исследование кантовской «вещи в себе», останется ли человеческий разум главным инструментом восприятия реальности? Если разум способствовал Реформации и изменил природу веры на Западе, то как изменит природу разума и веры приход ИИ? В эпоху, когда ИИ дополняет человеческий разум, или вытесняет его, или выходит за его пределы, как мы определим сферу применения, смысл существования и способ сохранения человеческого разума?

ИИ и другие развивающиеся технологии (такие как квантовые вычисления), похоже, приближают человека к познанию реальности, существующей за пределами нашего восприятия. Но в результате мы можем обнаружить, что даже эти технологии имеют свои пределы. Наша проблема заключается в том, что мы еще не знаем, какие последствия будет иметь внедрение этих технологий на фундаментальном философском уровне. Технологии продвигают нас вперед, но у нас нет полного осознания того, как это происходит, мы идем по пути прогресса в большой степени механически. Последний раз, когда человеческое сознание было значительно преобразовано, – в эпоху Просвещения – это произошло потому, что новая технология, а именно печатный станок, породила новые философские идеи, которые, в свою очередь, были растиражированы самой этой технологией. Сегодня мы уже разработали новые технологии, но у нас все еще нет соответствующей руководящей философии.

ИИ – это великое начинание. Его потенциальные преимущества огромны. Его разрабатывают люди – но сможем ли мы использовать его так, чтобы сделать нашу жизнь лучше, или же мы сделаем ее хуже? Скорее всего, произойдет и то и другое. ИИ позволит нам создать более сильные лекарства, более эффективное и справедливое здравоохранение, более устойчивую экологию и др. Вместе с тем он изменит концепцию истины, и некоторые люди утратят способность рассуждать и судить.

США, в отличие от ряда других стран, пока не сделали ИИ национальным проектом, и это должно быть исправлено. Вместе с другими странами, которые в состоянии возглавить разработку и внедрение ИИ, США должны сделать ИИ высшим национальным приоритетом. Этот процесс – процесс, который принесет большую пользу, – потребует участия людей с глубоким опытом работы в различных областях. Возможно, этим проектом должна руководить небольшая группа лидеров, пользующихся непререкаемым авторитетом, – от правительства, бизнеса и науки.