Тони Ван. Разбираться с проблемой должен «рынок идей», считает глава отдела безопасности пользователей, Дель Харви. Дурные высказывания, настаивает она, лучше всего противопоставляются более любезным речам. Естественно, если Twitter не в состоянии отделить хорошее от плохого, значит, он не может знать, что «рынок идей» будет поощрять хорошие высказывания. Но какой бы ни была проблема, решением будет монетизируемый контент.

И все же к 2015 году стоимость акций Twitter начала снижаться, так как рост числа пользователей прекратился из-за бестактности, царящей в социальной сети. Под руководством преемника Костоло, Джека Дорси, компания справилась с проблемой, переняв опыт Facebook. Вместо того, чтобы терять прибыльный контент, они внедрили алгоритмы, меняющие восприятие пользователей. Теперь твиты в ленте располагались не в хронологическом порядке, а в соответствии с предпочтениями. Впоследствии с домогательствами справились, изменив алгоритмы. Это было оптимальным решением. Хоть травля и не прекратилась, но наметилась положительная тенденция, и давняя проблема Twitter с вовлечением пользователей была частично решена.

Весьма любопытен тот факт, что данное решение полностью игнорировало пользовательский спрос. По мнению боссов социальной индустрии, пользователи не знают, чего хотят. Как объяснил бывший технический директор Facebook, Бен Тейлор, «люди всегда говорили, что им не нужна алгоритмическая лента, но все имеющиеся метрики показывают обратное». Речь идет о метриках, измеряющих степень вовлечения пользователей, от которой зависит развитие мобильной рекламы. Даже если пользователи будут изо всех сил жаловаться на троллинг и абьюз, но при этом продолжат пользоваться сетями, метрики будут говорить, что все хорошо. И если из-за троллинга мы будем еще активнее взаимодействовать с машиной, с утра пораньше набирая гневные сообщения, то метрики все равно будут расценивать наши действия как приятное времяпрепровождение.

Доктрина «свободы слова» в социальных сетях – это одновременно и бизнес, и подтверждение своего рода суверенной власти. Когда в Reddit выкладывались просочившиеся в сеть фотографии обнаженных звезд, президент компании Ишан Вонг яро поддерживал «идеал свободы слова». Reddit – не просто очередная корпорация, настаивал он, а скорее «правительство нового вида сообщества». А правительство должно уметь «сдерживать» свою власть. Но Reddit – это не конституционная республика, а Вонг неправильно интерпретировал понятие «свободы слова». В Reddit, как почти на всех платформах, слово контролируется. Оно подпадает под действие протоколов вовлечения пользователей, которые определяются коммерческими целями владельцев. Защищая «свободу слова» пользователей, Вонг, подобно государству, утверждал монополию на слово в рамках своей платформы. Он защищал суверенитет компании от угроз правительства, конкурирующих фирм и граждан. Оспорить эту монополию можно было только через имущественное право. Когда Reddit наконец удалил все ветки с фотографиями обнаженных звезд, на него посыпались авторские иски. Но такая стратегия возможна только для тех, у кого есть ресурсы. Для большинства же из нас подобная тактика совершенно не годится.

В тех случаях, когда платформы социальной индустрии признаются, что контролируют слова пользователей, они стараются спрятаться за «общественными нормами». Само это словосочетание – уже пропаганда: «общество» не принимает никакого участия в создании этих норм. Ставшие основанием для странных решений, эти нормы давно потерпели фиаско. По иронии судьбы, Facebook однажды подверг цензуре пост о цензуре на странице АСЗГС (Американский союз защиты гражданских свобод) и за нарушение своих стандартов удалил культовую фотографию, посвященную войне во Вьетнаме и получившую Пулитцеровскую премию. Отношение Facebook к «ненавистническим высказываниям» часто кажется каким-то извращенным. Несмотря на рьяную публичную поддержку Black Lives Matter, они заблокировали аккаунт Шона Кинга, активиста движения, за публикацию поста об оскорблениях на расовой почве, которые ему довелось пережить. В то же самое время очевидные расистские нападки остаются вне поля зрения модераторов. Нередко случается, что социальные сети ошибочно блокируют пользователя, когда тролли намеренно «сообщают о троллинге» со стороны своей жертвы и побуждают других делать то же самое. Кроме того, под давлением правительства им приходится ограничивать публикации оппозиционеров. Facebook, например, в сотрудничестве с правительствами Турции и Израиля удалял страницы курдов и палестинцев. В довершение всего «свобода слова» не помешала Facebook передавать данные полиции для отслеживания протестующих в Фергюсоне и Балтиморе.

В ответ на критику Facebook разработал сложную систему правил модерации. Но она, конечно же, не помогла решить проблему. В каждом случае блокировки должны быть и есть свои исключения. Сообщения сексуального содержания, например, запрещены, если только не используются в сатирических целях. Это значит, как сказала Сара Чон, что изображения анусов недопустимы, если только их не сфотошопили на лицо какого-нибудь политика. Расистские высказывания также под запретом, кроме самореферентных, вдохновляющих и юмористических. Иными словами, если расистский контент покажется модератору смешным, его оставят, тогда как комментарии рассерженных будут расценены как оскорбительные и удалены. Все зависит от того, как истолкуют то или иное сообщение проверяющие, нанятые случайным образом в странах с низким уровнем зарплат.

Проблема не в правилах модерации. У каждой платформы есть своя система контроля, которая чаще всего применяется неоправданно. Проблема в тех, кто придумывает эту систему, и в том, хотим ли мы, чтобы эти высокодоходные гиганты были монополистами права на свободу слова. Проблема в том, способны ли они, учитывая их главную задачу – привязать к себе пользователей, а также связь с правительствами разных стран, обеспечить справедливый и вменяемый контроль за словом.

8

В последние годы тролли якобы захватили власть в политике, поскольку традиционные правые превратились в темных правых. Трамп, совершенно невосприимчивый к троллингу в правом Twitter – яркий пример такой тенденции. По мнению Аманды Маркотт, темные правые появились в тот момент, когда журналист Майло Яннопулос, скандальный молодой реакционер, назвал троллей потенциальной основой для ультраправого молодежного движения, которому нужен только лидер, чтобы довести его до ума.

Более того, троллинг теперь не просто удел простолюдинов, в игру вступили и правительства разных стран. Американская разведка донесла, что Россия якобы заплатила троллям за подрыв президентских выборов в США. И действительно существуют доказательства, что Российская Федерация использует троллей для распространения фейковых и провокационных историй, хотя оснований полагать, что их действия сыграли решающую роль в выборах 2016 года, недостаточно. Но Россия здесь не уникальна. Известно, что 28 государств содержат армии троллей. С 2011 года американские военные проводят онлайн-операцию с использованием фейковых профилей, которая получила название «Операция “Честный голос”», чтобы вести проамериканскую пропаганду в других странах. В 2016 году была санкционирована и профинансирована так называемая «контрпропаганда», направленная на граждан США. Британская Объединенная группа по исследованию угроз запустила масштабную программу троллинга и отвлекающих событий, чтобы подавить отдельных людей и компании, которые доставляют проблемы правительству.

Не совсем ясно, какие отношения с троллингом у ультраправых политиков. Сваливая все на троллинг, проблему можно деполитизировать, как в случае реакции норвежских СМИ на