том числе против самого малого меньшинства, а именно индивида. Вопрос сейчас – в самих основаниях наших открытых и демократических обществ. Я не стал ей возражать.

Допустим, что технически ИИ на самом деле способен исключить предубеждения, и экстраполируем этот механизм за пределы рынка труда. Представим, что в fooding– или dating-приложениях ИИ поощряет нас выходить за границы предубеждений, экспериментируя с блюдами разных стран или с партнерами разных полов. Речь, конечно, об ИИ, который будут корректировать его программисты: если машинное обучение предоставить самому себе, оно, скорее всего, будет воспроизводить схемы прошлого. Но важнее то, что подобная задача вписалась бы в определенную форму утилитаристского эгалитаризма, характерного для ИИ, поскольку каждый индивид определяется своей потенциальной полезностью, а не своим происхождением или средой. Несомненно, общество без предубеждений стало бы эффективнее, подвижнее, богаче. Но нужно все равно отдавать себе отчет в том, что понятие «предубеждение» не имеет пределов: вначале оно ограничивалось биологическими данными (гендером, цветом кожи), но потом распространилось на сексуальную ориентацию, уровень образования и социокультурную среду. Поэтому можно быть дискриминированным как по своим «естественным» качествам, так и по тому, что вы представляете собой в «культурном» отношении. Значит ли это, что предприятие откажется нанимать лучших, чтобы не дискриминировать тех, у кого ниже IQ или хуже образование? Заключим ли мы брак с тучным партнером, чтобы не поддаться фэтшеймингу? В современных американских компаниях сотрудники парализованы страхом высказать что-нибудь такое, что посчитают дискриминационным[127], или как-то «неправильно» себя проявить[128], поэтому любые искренние отношения между людьми становятся невозможными. Какие чувства и эмоции остаются дозволенными в обществе без предубеждений? Те, которые вам предложит хорошо натренированный ИИ. А где найти себе друзей, спросите у алгоритма…

Эта логика выдает двойной отказ от свободы воли. С одной стороны, предмет выбора считается «не отвечающим» за свои личные характеристики, будь они врожденными или приобретенными. С другой стороны, агент выбора делегирует свое решение машине, опасаясь, что сам он сознательно или бессознательно может уступить глубоко запрятанным в его душе предубеждениям. Какой критерий останется в таком случае у ИИ, раз индивид сводится к схеме самого себя, став простой абстракцией, состоящей из нулей и единиц? Взаимная полезность. Значит, не удовлетворяясь предвидением и раскрытием наших спонтанных предпочтений, ИИ должен дойти до их подавления ради справедливого и оптимального удовлетворения всей совокупности индивидов в целом[129]. С моей точки зрения, это просто две стадии утилитаризма: первая стремится достигать субъективной полезности (как она определяется, в том числе и бессознательно, индивидом), а вторая – полезности объективной (преодолевающей личные предпочтения ради групповой гармонии). Странная диалектика, в которой слуга наших желаний постепенно становится нашим господином.

На что будет похож мир без «культурного соответствия» и без дискриминации? Возможно, на идеал открытого общества. Но, возможно, и на кошмар лучшего из миров, лишенного истории и наследия. Ведь наши культурные связи образуют сегодня живую ткань общества, как бы мы ее ни оценивали. Признавая безусловную философскую ценность общества без предубеждений, я хотел более развернуто представить возражение, которое набросал в разговоре с Румман, и на какое-то время выступить адвокатом дьявола. Для этого я обращусь к Эдмунду Берку, в свое время считавшемуся прогрессистом. В знаменитом отрывке «Размышлений о Французской революции» (1790) Берк воздает редкую похвалу предрассудку (prejudice). Отказываясь верить чистому применению разума, он собирается осудить и стремление вернуться к tabula rasa, свойственное Революции, и скрывающийся за ней проект построения человеческих отношений в чисто логическом порядке. А предрассудок же, напротив, Берк считает неоценимым ориентиром для правильного поведения, берущим свой исток не в индивидуальном расчете, который всегда будет оставаться поверхностным, а в «капитале времени» – в накопленных знаниях и опыте, формирующих культуру. Предрассудок – это конденсат длительной коллективной истории, состоящей из проб, ошибок и поправок. Он передает нам в наследство очевидность, которая испытывалась веками, но теперь доступна непосредственно. Там, где рефлексия увязает в импровизированных рассуждениях, предрассудок дает нам уверенный и быстрый ответ, насыщенный эмоциями, а потому толкающий к действию. Именно поэтому «предрассудок делает из добродетели привычку, а не цепочку не связанных друг с другом поступков». Этот предрассудок в пользу предрассудка не мешает критическому анализу: по Берку, задача мыслителей – исследовать «скрытую мудрость» предрассудков и извлечь из них после краткого исследования, как советовал Декарт, «временную мораль», переданную нам предками.

Было бы соблазнительно сравнить интеллектуальную иллюзию, разоблаченную Берком, с механизмами ИИ. Французские революционеры представляли людей разумными существами, способными договариваться друг с другом, ИИ же констатирует их экстравагантность, но ставит себе задачу их исправить. Требование рациональности было попросту перенесено с индивидуального решения на машину, а принцип полезности заменил собой принцип общей воли к организации социального поля. И наоборот: нельзя ли найти в предубеждениях ряд достоинств, которые Берк за ними признавал? Предубеждения, пусть они и несправедливы по отношению к индивидам, скрывают определенное обещание преемственности. Старый предрассудок гласит: подобное притягивается подобным. «Культурное соответствие», которого так боится Румман, позволяет нам продолжать общую историю.

ИИ играет главную роль в формировании общества без предубеждений. Но будет ли это именно общество, а не просто конгломерат индивидов, страшащихся любого добровольного взаимодействия и движимых волей алгоритма? Останется ли хотя бы малейшее affectio societatis, учитывая, что за каждым аффектом скрывается предубеждение?

Права без демократии

ИИ во многом подрывает традиционную демократическую структуру, где правительство, призванное служить общему благу, применяет законы, проистекающие, как считается, из общей воли. Общественный договор, разработанный просвещением, сегодня под вопросом. Это во многом объясняет политическую ажитацию, наблюдаемую в большинстве западных демократических государств. На наших глазах разваливается целая институциональная модель, но ничего другого на ее месте пока не возникло.

Первая составляющая кризиса является технической: руководители просто не поспевают за стремительным развитием ИИ, они не способны понять текущие изменения. Когда французский премьер-министр заговорил об ИИ в своей общей политической речи в июле 2017 года, комментаторы пришли в восторг от такой продвинутости, тогда как на самом деле эта тема была упомянута им лишь походя и вкратце. Сами его формулировки весьма показательны. «Революция искусственного интеллекта затронет всех во всех областях производства», – справедливо поясняет премьер-министр. Однако все эти области производства в остальной его речи рассматриваются как нельзя более традиционно, а сам ИИ связывается с будущей «национальной стратегией», словно бы речь идет о какой-то отдельной области, новом секторе. Правительство принимает решение составить доклад об ИИ, продолжая делать вид, что его сельскохозяйственные планы, промышленная стратегия или культурные расходы никак не изменятся. Но при этом достаточно пробежать глазами споры парламента времен Июльской монархии, чтобы заметить, насколько глубоко тогдашние ораторы, какую бы партию они ни представляли, понимали промышленную