сути, а социальные сети, безусловно, не должны быть направлены на максимальное усиление возмущения, экстремизма и негодования. Это был вопрос выбора - выбора технологических компаний, исследователей ИИ и правительств - который привел нас в наше нынешнее затруднительное положение.

Как мы уже упоминали ранее в этой главе, YouTube и Reddit изначально были в такой же степени поражены ультраправым экстремизмом, дезинформацией и языком вражды, как и Facebook. Но за последние пять лет эти две платформы предприняли некоторые шаги, чтобы уменьшить проблему.

По мере усиления общественного давления на YouTube и его материнскую компанию, Google, после появления таких инсайдерских рассказов, как рассказ Калеба Кейна, и разоблачений в New York Times и New Yorker, платформа начала изменять свои алгоритмы, чтобы уменьшить распространение наиболее вредоносного контента. Теперь Google утверждает, что продвигает видео из "авторитетных источников", которые с меньшей вероятностью могут быть использованы для радикализации или содержать дезинформацию. Компания также утверждает, что эти алгоритмические корректировки позволили сократить просмотр "пограничного контента" на 70 процентов ("пограничный" здесь означает, что компания утверждает, что язык ненависти уже прошел проверку).

История Reddit похожа. Являясь домом для самых экстремистских и подстрекательских материалов, изначально защищаемых одним из основателей, Стивом Хаффманом, как полностью соответствующие философии "открытого и честного обсуждения" сайта, платформа впоследствии отреагировала на давление общественности и ужесточила свои стандарты модерации. После того, как в 2017 году в Шарлотсвилле, штат Вирджиния, на митинге белых супремацистов "Объединяйтесь, правые", организованном и подпитываемом платформой, произошла вспышка насилия, в результате которой погиб один участник акции, а десятки других получили ранения, основатели Reddit и платформа изменили свою позицию. Платформа начала удалять десятки подразделов Reddit, пропагандирующих язык ненависти, расистские высказывания и откровенную дезинформацию. В 2019 году она удалила The_Donald.

Не стоит преувеличивать улучшения, вызванные саморегулированием платформ. На YouTube по-прежнему много дезинформации и манипуляций, которым часто способствуют алгоритмы, а на Reddit много ненавистного контента. Ни одна из платформ не изменила свою бизнес-модель, и в большинстве своем обе платформы продолжают полагаться на максимизацию вовлеченности и доходов от целевой рекламы. Платформы с другой бизнес-моделью, такие как Uber и Airbnb, были гораздо более активны в запрете языка ненависти на своих сайтах.

Но лучшей демонстрацией жизнеспособности альтернативных моделей является Википедия. Эта платформа является одним из самых посещаемых сервисов в Интернете, получив за последние несколько лет более 5,5 миллиардов уникальных посетителей в год. Википедия не пытается монополизировать внимание пользователей, поскольку не финансирует себя за счет рекламы.

Это позволило платформе выработать совершенно иной подход к дезинформации. Записи в этой онлайн-энциклопедии пишут анонимные добровольцы, и любой добровольный редактор может начать новую запись или изменить существующую. Платформа имеет несколько уровней администраторов, выдвинутых из числа частых пользователей с хорошим послужным списком. Среди добровольных авторов есть опытные редакторы с дополнительными привилегиями и обязанностями, такими как техническое обслуживание или разрешение споров. На более высоком уровне "стюарды" обладают большими полномочиями для разрешения разногласий. Согласно самой платформе, на стюардов "возложена задача технической реализации консенсуса сообщества, решение чрезвычайных ситуаций, вмешательство в борьбу с кросс-вики вандализмом". Над стюардами находится "Арбитражный комитет", состоящий из "добровольных редакторов, которые действуют согласованно или в подгруппах, навязывая обязательные решения по спорам о поведении, которые сообщество не смогло разрешить". "Администраторы" имеют возможность защищать и удалять страницы, а также блокировать редактирование в случае спорного содержания или случаев вандализма или дезинформации в прошлом. Самих администраторов контролируют и продвигают "бюрократы".

Эта административная структура играет важную роль в способности сайта предотвратить распространение дезинформации и поляризацию, которая была слишком распространена на других сайтах. Опыт Википедии показывает, что мудрость толпы, которой так восхищались первые технооптимисты социальных медиа, может работать, но только в том случае, если она подкреплена и контролируется правильной организационной структурой, и, если сделан правильный выбор в отношении использования и направления развития технологий.

Альтернативы бизнес-модели целевой рекламы не ограничиваются такими некоммерческими организациями, как Википедия. Netflix, основанный на модели подписки, также собирает информацию о пользователях и инвестирует значительные средства в искусственный интеллект для составления индивидуальных рекомендаций. Однако на этой платформе мало дезинформации или политического возмущения, поскольку ее цель - улучшить пользовательский опыт, чтобы стимулировать подписку, а не обеспечить максимальную вовлеченность.

Платформы социальных сетей могут работать с моделью подписки и зарабатывать на ней. Такая модель не решит всех проблем социальных сетей. Люди могут создавать свои собственные эхо-камеры на платформе, основанной на подписке, и могут появиться новые способы монетизации дезинформации и небезопасности. Тем не менее, альтернативные бизнес-модели позволяют отойти от стремления к интенсивному вовлечению пользователей, которое, как оказалось, способствует наихудшему типу социального взаимодействия, нанося вред как психическому здоровью, так и демократическому дискурсу.

Социальная паутина" может иметь огромное количество положительных эффектов, если удастся сдержать ее пагубное влияние на дезинформацию, поляризацию и психическое здоровье. Недавние исследования отслеживают начало работы сервиса Facebook на новых языках и показывают, что малый бизнес в затронутых странах получает доступ к информации с зарубежных рынков и в результате расширяет свои продажи. Нет причин полагать, что компания не могла бы зарабатывать деньги на подобных услугах, а не на своей способности манипулировать пользователями. Социальные медиа и цифровые инструменты также могут обеспечить большую защиту отдельных лиц от слежки и даже сыграть продемократическую роль. Нажатие на кнопки для получения эмоциональной реакции и нацеливание рекламы на пользователей, когда они таким образом срабатывают, никогда не были единственными возможностями для социальных медиа.

Демократия подорвана, когда она нам больше всего нужна

Трагедия заключается в том, что искусственный интеллект еще больше подрывает демократию, когда мы больше всего в ней нуждаемся. Если направление развития цифровых технологий не изменится коренным образом, они будут продолжать подпитывать неравенство и маргинализировать большие сегменты рабочей силы, как на Западе, так и во всем мире. Технологии ИИ также используются для более интенсивного контроля за работниками и через этот канал создают еще большее понижательное давление на заработную плату.

Если хотите, можете возлагать надежды на вал производительности. Но нет никаких признаков того, что общее повышение производительности произойдет в ближайшее время. Как мы уже видели, менеджеры и предприниматели часто склонны использовать новые технологии для автоматизации труда и лишения людей прав, если их не сдерживают противодействующие силы. Массовый сбор данных усугубил это предубеждение.

Однако без демократии трудно найти противодействующие силы. Когда элита полностью контролирует политику и может эффективно использовать инструменты репрессий и пропаганды, трудно создать сколько-нибудь значимую, хорошо организованную оппозицию. Поэтому в ближайшее время в Китае не будет расти активное инакомыслие, особенно в условиях все более эффективной системы цензуры и