его коллеги, например, обвинения в адрес комиссара налоговой службы Лоис Лернер и любые истории о скандальном консервативном комике Стивене Краудере с YouTube.

Нигде в статье Нуньеса нет утверждения, что сама компания просила кого-то положить палец на чашу весов против консерваторов. Единственное требование руководства Facebook заключалось в том, чтобы команда избегала выделения историй о самой Facebook. "Другими словами, новостной раздел Facebook работает как традиционный отдел новостей, отражая предубеждения своих сотрудников и институциональные императивы корпорации", - пишет Нуньес. "Наложение человеческих редакторских ценностей на списки тем, которые выдает алгоритм, ни в коем случае не является чем-то плохим - но это резко контрастирует с заявлениями компании о том, что модуль трендов просто перечисляет "темы, которые недавно стали популярными на Facebook". "

Даже если суть истории сводится к тому, что "Facebook занимается скромным человеческим курированием", призрак преднамеренной предвзятости открыл банку с червями в тот самый момент, когда демонизация Трампом СМИ стала центральной частью его кампании.

Кэти Харбат находилась на Филиппинах в момент появления этой истории и узнала о ней, когда в ее ленте новостей стали появляться возмущенные посты друзей-республиканцев с сайта . Она передала свой телефон сотруднику отдела по связям с общественностью Facebook и рассказала, что компания вот-вот станет центральной фигурой в обвинениях консерваторов в предвзятости СМИ.

Она оказалась права. Задача по подавлению возмущения выпала на долю Молли Катлер, юриста и доверенного лица Шерил Сэндберг. Часть работы Катлер заключалась в проведении внутреннего анализа, в ходе которого она обнаружила, что внимание, уделяемое консервативным и либеральным новостным изданиям в Trending Topics, было "практически одинаковым". Трамп был самой обсуждаемой темой и для тех, и для других.

Но Цукербергу этого оказалось недостаточно. Компания поспешила организовать встречу генерального директора с "лидерами консервативной мысли", включая Гленна Бека, Такера Карлсона и Барри Беннета, помощника Трампа, на которой Цукерберг пообещал решительно защищать нейтралитет платформы. "Я хотел лично выслушать их проблемы и провести открытый разговор о том, как мы можем укрепить доверие", - написал Цукерберг в Facebook после встречи.

Через несколько месяцев Facebook уволил всю команду Trending Topics, отправив охранника выпроводить их из здания. В объявлении отдела новостей говорилось, что компания всегда надеялась сделать Trending Topics полностью автоматизированной, и отныне так и будет. Если история превосходила показатели вирусных новостей Facebook, она становилась лидером Trending Topics.

Эффект от переключения не был незаметным. Освобожденный от оков человеческих суждений, код Facebook стал рекомендовать пользователям посмотреть на празднование "Национального дня топлесс", ложную историю о том, что Мегин Келли была уволена с Fox News, и слишком точную историю под названием "Мужчина снимает себя на камеру, занимаясь сексом с сэндвичем McChicken".

Если не принимать во внимание чувства команды социальных сетей McDonald's, есть основания сомневаться в том, что вовлеченность в эту финальную историю отражает подлинный интерес публики к завинчиванию сэндвичей: большая часть вовлеченности, очевидно, исходила от людей, желающих никогда не видеть этот проклятый контент. Тем не менее, Цукерберг предпочитал, чтобы все было именно так. Восприятие нейтральности Facebook имело первостепенное значение; сомнительное и неприятное было лучше, чем предвзятое.

"Цукерберг сказал, что от всего, что связано с человеком, мы должны избавиться, насколько это возможно", - вспоминает член команды по ранней поляризации.

Среди первых жертв такого подхода оказался единственный инструмент компании для борьбы с мистификациями. Более десяти лет Facebook избегала удаления даже самой очевидной чепухи, что было не столько принципиальной позицией, сколько единственно возможным вариантом для стартапа. "Мы были кучкой студентов в одной комнате", - говорит Дейв Уиллнер, муж Шарлотты Уиллнер и человек, написавший первые стандарты контента Facebook. "Мы были радикально не готовы и не имели права решать, какой должна быть правильная история мира".

Но когда компания начала получать миллиарды долларов ежегодной прибыли, появились, по крайней мере, ресурсы для рассмотрения проблемы фальшивой информации. В начале 2015 года компания объявила, что нашла способ борьбы с мистификациями без проверки фактов, то есть без оценки правдивости самой информации. Она просто будет подавлять контент, о котором пользователи непропорционально часто сообщают как о ложном.

Никто не был настолько наивен, чтобы думать, что это не может вызвать споров или что этой функцией не будут злоупотреблять. В разговоре с Адамом Моссери один из инженеров спросил, как компания будет реагировать, например, на мистифицированные "развенчания" рукотворного глобального потепления, которые были популярны среди американских правых. Моссери признал, что с изменением климата будет сложно, но сказал, что это не повод останавливаться: "Вы выбираете самый сложный случай - большинство из них окажутся не такими уж сложными".

Компания Facebook без лишнего шума обнародовала информацию о своей работе по борьбе с ложью, сделав заявление, в котором точно отметила, что пользователи достоверно сообщают о ложных новостях. При этом было упущено, что пользователи также сообщают о ложных новостях, которые им не нравятся, независимо от их точности.

Чтобы остановить поток ложных срабатываний, инженеры Facebook придумали обходной путь: "белый список" доверенных издателей. Такие безопасные списки широко распространены в цифровой рекламе, позволяя, например, ювелирам покупать заранее разрешенную рекламу на множестве авторитетных свадебных сайтов, исключая при этом такие домены, как www.wedddings.com. Белые списки Facebook были примерно такими же: они составили щедрый список признанных новостных сайтов, чьи материалы будут рассматриваться как не подлежащие сомнению.

Решение было нелепым и могло поставить в невыгодное положение малоизвестные издательства, специализирующиеся на фактических, но неоднозначных материалах. Тем не менее оно эффективно снижало успех ложных вирусных новостей в Facebook. Так было до тех пор, пока компания не столкнулась с обвинениями в предвзятости в отношении Trending Topics. Тогда Facebook упреждающе отключил эту функцию.

Отключение защиты Facebook от мистификаций стало одной из причин резкого роста фальшивых новостей осенью 2016 года. До президентских выборов оставались считанные месяцы, а руководство Facebook уже сняло ногу с тормоза.

"Все это стало прямым следствием того, что СМИ сосредоточились на трендовых историях", - отметил сотрудник, составляющий рейтинг ленты новостей. "Это привело к ужасному слепому пятну".

Глава 4

Федеральное бюро расследований хотело встретиться с Джеймсом Барнсом и его адвокатами на парковке отеля Holiday Inn в Вашингтоне.

Подъехал черный городской автомобиль с двумя мужчинами на переднем сиденье, которые велели Барнсу сесть посередине, между двумя его адвокатами, предоставленными Facebook. Затем они отвезли его в неприметное офисное здание, где проходило расследование Роберта Мюллера о вмешательстве России в выборы 2016 года. Наверху мужчины приступили к допросу. Они хотели знать, есть ли русские в офисе в Сан-Антонио.

"Вы, ребята, должно быть, шутите, - ответил