class="a">[137] Какой, собственно, вопрос остается общим в утилитаристском мире, где ИИ распределяет ресурсы (сырье, произведенные товары или интеллектуальный капитал) так, чтобы достичь максимального счастья максимального числа людей? Бентам свел роль правительства к обеспечению физической безопасности граждан, в остальном же рекомендовал ему не вмешиваться («Be quiet!», «Тихо!» – как говорят детям). Конечно, сегодня правительства далеки от спокойствия, они пробуют так и эдак доказать свою легитимность, но разве это не ажитация от отчаяния, разве не лебединая песнь представительской системы? Что еще они могут предложить, со всеми своими запретами и угрозами, гражданину, который с удовольствием подчиняется то одной рекомендации, то другой? Разве сама идея голосования, индивидуального и осведомленного решения, совместима с концом свободы воли?

Эту тему я без особого успеха поднял в разговоре с политологом Ли Дратманом, который сегодня работает с аналитическим центром New America. Ли скептически относится к тому, что ИИ якобы может перевернуть институциональные политические структуры. Этот вопрос, возникший во властных кругах несколько лет назад, представляется ему устаревшим. Ли даже готов оспорить случаи поляризации, связываемые с социальными сетями. Я уже готовился уйти с пустыми руками, когда Ли, внезапно поднявшись со стула, перестал сыпать академическими ссылками и углубился в личные размышления: разве в автоматизированном обществе, в котором за решения граждан все чаще отвечают роботы, мы не выйдем из самого демократического процесса, уступив всю территорию автократам? Ли использует выражение «check out», «выписаться»: не получится ли так, что мы откажемся от политики так же, как сегодня выписываемся из отеля, не оборачиваясь, унося с собой свои чемоданы? Не породит ли пристрастие к благополучию окончательного безразличия? Об этом беспокоился уже Токвиль: в индивидуалистическом обществе, в котором вкус к материальным удовольствиям отдаляет граждан от общественных интересов, коллективные решения можно было бы беззаботно доверить первому, кто готов их на себя взять[138]. «Когда масса граждан желает заниматься лишь частными делами, даже самые мелкие партии не должны терять надежду на то, что станут господами дел публичных».

Мне, однако, кажется, что за вопросом о «выписывании» стоят все те вопросы, которые Ли столь поспешно отверг. Граждане выходят из демократического процесса не из-за лени или беззаботности, а потому что они чувствуют, что могут удовлетворить свои желания иначе. Словно бы ИИ и компании, его распространяющие, обеспечивают им достаточно комфортную жизнь, чтобы они могли избавиться от нужды принимать коллективные решения. Если мое благополучие оптимально гарантируется тысячами приложений и подключенных к сети объектов, зачем голосовать за какого-то представителя? Если Facebook принимает решение о моей свободе слова, зачем избирать Конгресс и спорить о Первой поправке? Если рассчитанная хореография беспилотных автомобилей отвечает моим потребностям, нужен ли общественный транспорт? Поскольку ИИ оказался одновременно персонализированным и коллективистским, поскольку он заботится обо мне как уникальном существе и в то же время обеспечивает успешное функционирование группы, он стремится ограничить область коллективного обсуждения так, чтобы в итоге можно было обойтись вообще без публичной политики.

О появлении такой альтернативы классической демократии мне рассказала в Сан-Франциско Амира Яхьяуи, энергичная предпринимательница. Я был немного смущен нашей встречей: единственная Амира Яхьяуи, которую мне удалось найти в интернете, – молодая активистка, боровшаяся за права человека в Тунисе, где ее преследовал режим Бена Али. Она долго жила во Франции, покинув родину, потом основала НКО Al Bawlasa, оказавшую значительное влияние на разработку новой тунисской Конституции. Какое отношение все это имеет к стартапу Mos.com, цель которого – сократить давление бюрократии в жизни американцев, в частности упростить подачу документов на получение стипендий при поступлении в высшее учебное заведение (это очень важная для США проблема, где плата за обучение часто очень высока)?

Несмотря на все предубеждения, я вынужден признать, что речь об одном и том же человеке – очаровательной разговорчивой женщине в яркой футболке. Ее суждения оригинальны. Мы говорим по-французски. Какая редкость – столкнуться с мыслью в движении! Амира считает, что вместе с ИИ открывается эпоха «прав без демократии». Цифровые услуги, адаптирующиеся к самым тайным нашим потребностям, формируют вполне обоснованное чувство того, что нам все обязаны. Мы не хотим терпеть волокиту, дискомфорт, проволочки? Отлично! Технологии породили в нас такое требование к услугам, которое не смогла бы заменить никакая Декларация прав человека. Не все могут быть активистами, но кто не пользуется смартфоном? Вот и обращаться нужно не столько к гражданину, сколько к потребителю. «Человека надо воспитывать так, чтобы внушить ему чувство, будто у него есть право на все», – провокационно заявляет Амира. Впрочем, это и есть цель mos.com: за американского студента отвечает платформа, а потому он может не блуждать среди тысяч критериев и процедур. Нет нужды знать во всех подробностях тексты, которые нами управляют, или подсчеты, упрощающие наши решения: достаточно отдать себя в руки ИИ. В мире, управляемом принципом полезности, «решение состоит в том, чтобы позволить собой руководить», – ставит точку Амира. Я пытаюсь робко отстаивать свободу воли. Но Амира безжалостно меня обрывает: «Мне на это плевать». Все, в общем, ясно…

Сколько раз мы слушали жалобы какого-нибудь политика на миллениалов, которые выросли в среде цифровых инструментов, а потому требуют прав, но знать не хотят об обязанностях? Может, это и есть свойство поколения, взрослевшего вместе с развитием машинного обучения, – а еще и знак полного упадка избирательной функции. Неудивительно, что эти политики так боятся ИИ, который постепенно отнимает у них всякую легитимность.

Это рассуждение могло бы показаться подозрительным, если бы его не развивала активистка с бесспорным послужным списком. Для Амиры здесь никакого противоречия: она защищала фундаментальные права тунисцев, начиная со свободы слова, и точно так же сегодня пытается вписать дополнительные права, например право на обучение людей со скромным достатком, в повседневную жизнь американцев. В обоих случаях эти права отличаются от демократического выбора. Напротив, они должны сопротивляться всякому политическому воздействию, какова бы ни была актуальная политическая власть. «Правительства – это тормоз», – прямо говорит мне Амира. С ее точки зрения, их исчезновение – не повод для сожаления. В этом ее рассуждения сходятся с тезисами политолога Яши Мунка, с которым я встретился в лондонском офисе Тони Блэра. Яша занимался теорией этого разрыва между, с одной стороны, «правами без демократии», которые гарантируются судьями или бюрократами, а с другой – «демократией без прав», несвободной и плебисцитарной (как та, что развивается в России и Турции, а также в Венгрии и даже США)[139]. Но если центрист Яша Мунк боится кризиса либерализма, Амира радуется победе технологий.

Итак, мы видим, как может родиться определенная форма правления на базе полезности, диффузно обеспечиваемой сетевым ИИ. Платформы подсчитывали бы показатели удовольствия