исполнительный директор мультиканальной сети Studio71, подписавшей контракт с этим каналом. — Это действительно помогает выжать такие цифры просмотров».

«Паутины и тиары» попытались повторить успех маленького Райана, который к тому времени появлялся на экране с младшими сестрами, горами игрушек и гигантских пенопластовых продуктов, зарабатывая сотни миллионов просмотров. «Паутины и тиары» просто сыграли на популярности костюмов и странном сочетании двух поисковых запросов, так любимых большинством детей. Как и любой хороший ютубер, «вы просто повторяете то, что стало вирусным», — позже объяснял Ранта. Он не возражал против анонимности, когда подписывал договор с каналом «Паутины и тиары».

Многие детские ютуберы предпочитали этот способ — так легче было избежать проблем с законом о защите частной жизни детей. Но в целом эта профессия была на редкость странной[226]. «Паутины и тиары» были очень странными: в кадре представали разные костюмированные Эльзы с куриными ножками. Но Ранта, в прошлом стендап-комик, настаивал на том, что канал «довольно безобиден», поскольку работает как старое немое кино или театр косплея для детей. И его сюжеты (например, когда персонажи попадают за решетку) были запоминающимися. «Представляешь, — говорил Ранта, — ты маленький ребенок, и ты такой: „Вау, я люблю Эльзу. Я люблю Человека-паука. Что? Они в тюрьме? Такого я еще не слышал!“» Щелк.

С успехом канала пришла волна подражателей. Некоторые заимствовали сюжетные мотивы у пранкеров YouTube (еще один горячий тренд) и устраивали экстремальные игровые соревнования в выполнении самых абсурдных трюков. Когда к супергероям присоединились пранкеры, этот жанр стал еще более диким. Эльза спустила Человека-паука в унитаз; «злой Санта» похитил Эльзу; Человек-паук вколол Эльзе странные жидкости. Эльза часто рожала. «Уже почти ожидаешь, что в следующих сценариях будет порно», — написал один блогер об этой тенденции[227] в феврале 2017 года. За пару месяцев до этого Дэвид Сиверс из Maker опубликовал отчет для юристов студии Disney, создавшей Эльзу. Все рекламные ролики Disney на YouTube, не включенные в хиты вроде Пьюдипая, набирали около миллиарда просмотров в месяц, что было солидной суммой. А любительские видеоролики с участием Эльзы за тот же месяц набирали 13 миллиардов просмотров.

В том году Гарри и Сона Джхо, создатели «Клуба матушки Гусыни», заметили, что одним из самых популярных терминов на YouTube стал «плохой ребенок». В эту категорию входили безобидные анимационные клипы о непокорных малышах и отвратительные ролики, показывающие в прямом эфире, как дети переедают и их рвет. Toy Freaks специализировались на втором типе сюжетов: например, Чисм разыгрывал двух своих дочерей школьного возраста, одетых как младенцы. В каком-то кадре одна из девочек вырвала себе зуб, после чего кричала и плевалась кровью. (Там же Чисм успокаивал кричащую дочку, но это было уже не заметно зрителям, которые видели только кровавые кадры.) Toy Freaks продолжали подниматься в чартах YouTube.

В марте канал BBC опубликовал разоблачительную историю[228]. Потрясенные родители обнаружили, что их малыши смотрят жестокие, кошмарные клипы в приложении YouTube Kids, рекламируемом как безопасное место. Поддельную свинку Пеппу пытают у дантиста. Микки-Маус устраивает розыгрыши с фекалиями. Минни-Маус расчленена и окровавлена. Машинам YouTube эти фрагменты представлялись детскими мультфильмами.

Нейронные сети — сверхчеловеческий искусственный интеллект, подключенный к рекомендательным алгоритмам YouTube — часто описывались как системы «черного ящика», поскольку люди не могли понять способы их работы. Поток тревожных детских материалов напомнил многим сотрудникам YouTube, что у них нет пароля к этому ящику. «Он зажил собственной жизнью, и никто не брался за него отвечать», — вспоминал один из сотрудников компании.

Вскоре стало казаться, что о нарастающей катастрофе знают все на свете, кроме самого YouTube.

* * *

«Злоумышленники». Этот термин Google использовала для обозначения спамеров, хакеров и лиц, вмешивающихся в выборы, — тех, кто сделал Интернет небезопасным. На YouTube злоумышленниками были люди, которые делали кровавые мультфильмы с Минни-Маус, пользовались случайно оставленными лазейками, злоупотребляли щедрыми данными, размещали «проблемный контент».

Летом 2017 года команда YouTube начала внимательно просматривать детские видеоролики, считающиеся проблемными. Компания еще не оправилась от рекламного бойкота, но обновила коммерческие рекомендации и создала модели, позволяющие лучше идентифицировать материалы террористов и, если будет на то воля богов искусственного интеллекта, навсегда похоронить эту проблему. Одному новому сотруднику, который пришел в команду той весной, сказали, что вскоре эта работа «может даже стать ненужной».

Но стоило заглянуть под капот, как оптимизм рассеялся.

Toy Freaks были не одиноки. Успех Чисма вдохновил десятки подражателей («репликации контента», как это называла компания). Некоторые устраивали «вброс ключевых слов» (например, «плохой ребенок») и использовали в своих целях алгоритмические волны — это старая тактика спамеров, которые подписывали видео множеством несвязанных тегов, предназначенных только для машинных глаз. Некоторые сотрудники YouTube испытывали тошнотворный дискомфорт, просматривая видео в стиле «плохой ребенок» с участием несовершеннолетних. В нескольких роликах появилась тенденция брить лица маленьких детей перед камерой в качестве наказания. (Настоящее бритье или поддельное? Непонятно.) У других дети наедались и показывали раздутые животы — сюжетец из порно. У компании уже давно были правила, запрещающие эксплуатацию детей и сексуальные фетиши; такие видеоролики пока не нарушали правил, но приближались к этому. В течение многих лет YouTube был уверен, что именно родители направляют детей на YouTube Kids, но относительно скудный трафик приложения показал, что это не работает. Миллионы детей, лишенных родительского надзора, самостоятельно приходили на YouTube.com.

Сотрудники придумали новую категорию («пограничный фетиш») и написали для модераторов и машин правила по обнаружению видео, которые в нее попадали. Еще один ярлык был создан для видеоматериалов, в которых смешивались детские персонажи и «взрослые темы» — причудливые мучения свинки Пеппы и легионы имитаторов Человека-паука и Эльзы.

Они двигались осторожно. В YouTube многие завидовали Facebook*, но самодовольно заявляли, что им не свойственно «двигаться быстро и ломать все подряд», как гласил старый девиз Facebook*. После избрания Трампа этот девиз стал синонимом легкомысленного слома демократических норм со стороны социальной сети. Когда YouTube решил запретить видео, в которых зрителей учили обращаться с огнестрельным оружием или предлагали его купить, компании потребовалось полгода на то, чтобы написать правила, провести их стресс-тестирование и разработать протоколы правоприменения. Руководителей беспокоил сопутствующий ущерб. Ученые из сферы искусственного интеллекта говорят о «точности» и «полноте» модели.

Если мы обучаем машины искать видеоролики о создании бомб, нужно найти достаточное их количество (полнота) и при этом случайно не вырезать новостные кадры, документальные фильмы о Второй мировой войне или мультфильмы о Хитром Койоте (точность). Google предпочитала использовать модели искусственного интеллекта с высокой точностью и полнотой. Изучив странные материалы для детей, сотрудники YouTube изо