курировала оптимистичную, социально позитивную работу компании, например запуск в 2015 году фандрайзеров на Facebook, которые компания преподносила как поощряющие спонтанную щедрость на небольшие суммы и помогающие пользователям связаться с теми, кто им небезразличен. В публичных заявлениях об этом проекте не упоминалось о том, что обработка пожертвований даст компании доступ к данным кредитных карт пользователей - бесценному ресурсу для компании, заинтересованной в интернет-коммерции. Внутренние информационные панели, используемые для оценки успеха фандрайзинговых кампаний в Facebook, включали количество обработанных кредитных карт в качестве центрального показателя успеха, наряду с такими показателями, как общее количество долларов, собранных на благотворительные цели.

 

-

Скандал с Россией и Cambridge Analytica разозлил не только рядовых пользователей. В июне 2018 года Харбат, будучи директором по глобальной избирательной политике, принимал группу либеральных правозащитных организаций в штаб-квартире Facebook в Вашингтоне. Все они были разгневаны до такой степени, что не могли справиться со своими обычными связями с компанией.

В центре их ярости оказалась компания Cambridge Analytica, но к ней, как и к исторически беспечному отношению Facebook к пользовательским данным, добавились вмешательство иностранных государств в выборы, дезинформация и неадекватная модерация. Как эти промахи были взаимосвязаны, неясно. Но когда представитель Planned Parenthood заявил, что Facebook убивает людей, Харбат понял, что спорить не стоит.

"Это было время, когда многие вещи собирались в кучу", - вспоминает она. "Моя работа заключалась в том, чтобы быть человеком и дать людям возможность выговориться".

Как только либералы ушли, Харбат вместе с Капланом встретился с другой группой посетителей: Кевином Маккарти, лидером республиканского большинства в Палате представителей, и Брэдом Парскейлом, который стал руководителем предвыборной кампании Трампа. Они тоже были недовольны Facebook, хотя и по разным причинам. Парскейл был убежден, что у компании есть секретный список фраз, которые она использует для уничтожения консерваторов, ставящих под сомнение изменение климата и другие элементы либеральной догмы (на самом деле это не так). Но что его действительно беспокоило, так это то, что компания до сих пор не поблагодарила его за то, что он публично приписал Facebook победу Трампа в 2016 году. Парскейл довел эту мысль до такой степени, что Маккарти сорвался на него: "Чего ты хочешь, Брэд? Чтобы они прислали тебе цветы?"

У Маккарти тоже были претензии. Он был расстроен тем, что в начале месяца в результатах поиска Google Республиканская партия Калифорнии была ненадолго включена в список нацистских организаций. Ошибка не имела никакого отношения к Facebook - она возникла в результате того, что кто-то незаметно для себя совершил акт вандализма на странице Википедии, на которую ссылался Google, - но Маккарти, похоже, воспринял это как доказательство того, что вся Кремниевая долина замышляет против республиканцев. Харбат и Каплан сделали все возможное, чтобы убедить его в обратном, но Маккарти и Парскейл остались неубежденными. (Позже Парскейл говорил, что не помнит подробностей встречи, но ему надоело "врать и реагировать на их разбуженных сотрудников", и он считает, что антиконсервативная цензура со стороны компании может стоить республиканцам выборов 2020 года).

Такое недоверие было трудно развеять, учитывая, что сотрудники Facebook придерживались либеральных взглядов, а 87 процентов их политических пожертвований шли демократам. Уже столкнувшись с натиском незаконных антиконсервативных обвинений в предвзятости, компания была обеспокоена возможностью появления реальных. Каплан стал главным внутренним наблюдателем, проверяя предложения по изменению продуктов на предмет предвзятости или чего-либо, что можно было бы обвинить в этом. Кроме того, Каплан контролировал принятие решений о модерации отдельных материалов - ему подчинялась Моника Бикерт, глава отдела контентной политики компании. Разумеется, все подчинялись Сэндберг, когда нужно было сделать особенно важный звонок, и она отступала перед Цукербергом, когда речь шла о чем-то действительно щекотливом. Хотя генеральный директор иногда вмешивался в вопросы модерации контента и политики, он, как правило, считал их досадными отвлечениями. На практике за Капланом часто оставалось последнее слово в вопросах ранжирования, правил и правоприменения, что было побочным направлением его основной работы по обеспечению счастья или, по крайней мере, успокоения влиятельных лиц Вашингтона.

По мере того как роль Каплана в Facebook становилась все более понятной за его пределами, либералы стали повторять за консерваторами обвинения в политическом фаворитизме. Но хотя он иногда выступал от имени консерваторов, даже его критики внутри Facebook не считали его фанатиком.

Истинный конфликт интересов заключался не в том, что компания поручила лоббисту-республиканцу разбирать ее правила и высказывать свое мнение о механизмах ее работы, а в том, что она передала эти обязанности лоббисту любой ориентации. Миллиарды пользователей Facebook будут управляться человеком, чья работа заключается в том, чтобы заботиться не о них, а о Facebook.

Глава 5

Когда речь заходит об очистке лент пользователей, некоторые проблемы качества должны быть легкой добычей. Это было ясно Майклу Макнелли, который пришел в Facebook в апреле 2017 года после тринадцати лет работы в Google, где он занимался обучением ранних моделей машинного обучения для борьбы со спамом.

Трудно переоценить, насколько актуальной была проблема спама на рубеже XXI века, когда массовые сообщения были готовы разрушить электронную почту, а возможно, и общение в Интернете в целом. Спам рос в геометрической прогрессии в то время, когда фильтры, призванные его остановить, добивались лишь незначительных успехов. Конгресс принял закон - CAN-SPAM Act - и прокуроры отправили несколько человек в тюрьму за организацию спам-операций, но в конечном итоге это ничего не изменило. А вот работа по машинному обучению, над которой трудились люди вроде Макнелли, помогла.

Для людей то, что считается спамом, было интуитивно понятным и сразу распознаваемым. Для компьютеров - не очень. Поэтому большая часть работы заключалась в том, чтобы выяснить, какие объективные сигналы люди склонны подавать, когда сталкиваются со спамом. К моменту прихода Макнелли компания Google уже находилась на переднем крае изучения этого вопроса. В одном из конкретных случаев инженер Google по имени Саймон Тонг придумал поведенческий метод обнаружения порнографии.

Тонг не оценивал изображения - в те времена искусственный интеллект для компьютерного зрения был грубым по современным меркам. Все, что он делал, - это смотрел, куда перемещались курсоры пользователей при получении массовых писем. В случае с обычными письмами никакой закономерности не было. Но в случае с порнографией мышь получателя сразу же начинала зависать над изображением, как извращенный ирландский сеттер. Реакция была почти непроизвольной - мгновенное подергивание, отражающее то, что делают люди, когда неожиданно сталкиваются с обнаженным товарищем - мы смотрим.

У плохих парней тоже были свои шаблоны. Макнелли и его коллеги использовали сочетание автоматизации, анализа