Уже через день рекомендации Facebook "отклонились в сторону полярного контента". А через неделю Facebook стал продвигать "шквал экстремального, конспирологического и графического контента".

Проблема была не только в ленте новостей. Это были рекомендации страницы , предложения просмотреть "похожие посты" и даже уведомления. В статье исследователя содержался призыв к действию: если Facebook собирается так активно продвигать контент, компания должна быть более разборчивой в том, что она продвигает.

В более поздних записях будет признано, что эти предупреждения остались без внимания.

Можно с уверенностью сказать, что из миллионов пользователей Facebook, которые со временем вступили в группы, посвященные этому заговору, многие не были его реальными адептами. Но уже к осени 2019 года правоверные QAnon совершили несколько странных преступлений - заблокировали мост через дамбу Гувера, похитили людей, захватили цементный завод, а исследователи пользовательского опыта компании получили больше информации о странном заговоре, чем многие другие.

Один из директоров Facebook вспоминает встречу с пользователем в Лас-Вегасе - обычном месте для исследователей пользователей, пытающихся выбраться из культурного пузыря района залива, чтобы набрать испытуемых. Обстановка была ничем не примечательной: один из сотрудников директора опрашивал нескольких пользователей Facebook об их активности на платформе, а директор и его коллега сидели за односторонним зеркалом в арендованном офисном помещении для маркетинговых исследований. Объекты были намеренно разнообразными, а профессионально подготовленный сотрудник Facebook, проводивший интервью, задавал строго нейтральные вопросы. Но одна из участниц интервью, белая женщина средних лет, смотрела на происходящее иначе.

В ее постах, в основном повторных, было много "Сделаем Америку снова великой" и материалов QAnon, и она казалась подозрительной даже на самые простые вопросы о том, как она использует Facebook.

Женщина начала жестикулировать, а затем повысила голос. Поначалу режиссеру показалась забавной несговорчивость испытуемой. Но по мере того как интервьюер пытался успокоить женщину и не смог, он и его коллега начали обмениваться обеспокоенными взглядами.

Черт возьми, подумал режиссер. Она собирается пересечь стол.

За односторонним стеклом директор и его коллега поднялись со своих мест. Они остались стоять, пока интервьюер торопливо , готовый ворваться в комнату, если женщина набросится на нее.

"Мы это поняли", - сказал он. "Наши пользователи - сумасшедшие".

-

В преддверии выборов 2020 года, когда большая часть работы была завалена политическими и продуктовыми командами, Civic нужно было сделать что-то смелое. Поэтому она сделала слайд-колоду.

Вложенная в презентацию PowerPoint, которую Самидх Чакрабарти, Каушик Айер и другие создавали в конце лета, таблица с цветовыми кодами сопоставляла серьезность потенциальных кризисов с уровнем готовности Facebook к их преодолению. Когда документ начал собираться воедино, Чакрабарти поделился им с Кэти Харбат.

Презентация была мрачной, сказал ему Харбат, но она не была ошибочной.

"Я хочу, чтобы они испугались", - вспоминает она слова Чакрабарти. Затем он отправил презентацию по электронной почте непосредственно Цукербергу и двум десяткам других руководителей, которые присутствовали на еженедельной встрече в конференц-зале генерального директора со стеклянными стенами, прозванном "Аквариумом".

Белые - для вещей, которые были не столь важны и к которым Facebook был достаточно подготовлен. Желтый и оранжевый цвета относились к средним ситуациям - местам, где все могло пойти не так, но возможности для настоящей катастрофы были ограничены. Красным цветом обозначались резонансные проблемы, в случае которых Facebook была готова только к ликвидации последствий.

Была и последняя категория: малиновая. Его было очень много, хотя он был зарезервирован для проблем, вероятность возникновения которых была "очень высокой", и достаточно серьезных, чтобы вызвать "социальный конфликт" - фраза, часто используемая в качестве эвфемизма для насилия. Согласно диаграмме, компания оказалась совершенно не готова к попыткам манипулирования внутри страны, проверка фактов была слишком медленной и ограниченной, чтобы поспеть за скоростью распространения ложных сведений, а "порочные стимулы" рекомендательной системы Facebook активно снижали качество новостей, которые потребляли люди. Усилия компании по предотвращению неправомерных действий со стороны крупных страниц и групп были крайне недостаточными, и у пользователей не было возможности определить, когда такие организации управляются из-за рубежа. Система правоприменения Facebook была настолько ненадежной, что она вполне могла принять неправомерные меры в отношении одного из кандидатов в президенты от основной партии.

По видеоконференции из Вашингтона Харбат наблюдала за тем, как Чакрабарти представляет материал собравшимся руководителям, не сводя глаз с Цукерберга. Генеральный директор ничего не сказал, вспоминает Харбат. Он просто выглядел расстроенным. Не успел Чакрабарти дочитать до конца, как Цукерберг прервал его вопросом: Что нужно Чакрабарти для решения выявленных проблем?

У Чакрабарти был готов ответ. Он попросил Цукерберга ввести "блокировку", пока все не будет исправлено.

Цукерберг недоуменно посмотрел на него. Блокировки обычно навязывались сверху, а не запрашивались снизу. Когда компания объявляла его в связи с определенным кризисом, все, кто работал над проблемой, должны были трудиться по ночам и выходным до тех пор, пока не достигали определенных "критериев выхода", означавших, что проблема была взята под контроль. Этот процесс должен был быть ужасным, но у него было одно преимущество. Когда команда находилась в режиме блокировки, она имела возможность отвлекать персонал и ресурсы до тех пор, пока проблема не останется позади.

Если Чакрабарти сочтет, что блокировка необходима, компания сделает это, сказал Цукерберг. Затем он прервал совещание.

Когда руководители уходили, Цукерберг отозвал в сторону Гая Розена из Integrity. "Почему вы показали мне это перед столькими людьми?" спросил Цукерберг у Розена, который, будучи начальником Чакрабарти, нес ответственность за то, что презентация его подчиненного попала в повестку дня того дня.

У Цукерберга были все основания быть недовольным тем, что столько руководителей наблюдали за тем, как ему в открытую говорили о том, что предстоящие выборы могут обернуться катастрофой. В ходе расследования деятельности Cambridge Analytica регулирующие органы по всему миру уже получили от компании повестки с тысячами страниц документов и потребовали предоставить им личные сообщения Цукерберга, которые велись на протяжении большей части десятилетия. Facebook заплатила $5 млрд Федеральной торговой комиссии США, чтобы урегулировать одно из самых громких расследований, но угроза повесток и показаний не исчезла.

Если выборы 2020 года провалятся по вине Facebook, регулирующие органы захотят узнать, знал ли Цукерберг о проблемах заранее, и, скорее всего, они зададут этот вопрос под присягой. Меньше всего юристам Facebook нужны были доказательства того, что генерального директора предупредили о проблемах, а он отмахнулся от них. Чакрабарти только что создал бумажный след, свидетельствующий об этом, и недостатка в свидетелях не было. Представитель компании отрицает, что недовольство Цукерберга было связано с тем, что ему показали тревожный документ