способные идентифицировать такую рекламу. Затем появлялись новые проблемы и задачи, и специалисты компании создавали новые способы идентификации этого нового контента, и цикл продолжался. Среди прочего разработчики создали системы, которые могли самостоятельно генерировать дезинформацию. Эти системы опирались на технологию генеративно-состязательных сетей и связанные с ними методы генерирования изображений. Использовалась также технология Wavenet, разработанная в DeepMind, которая могла генерировать реалистичные звуки, даже подражать чьему-либо голосу, например Дональда Трампа или Нэнси Пелоси.

Это превращалось в игру ИИ против ИИ. Когда подошел срок очередных выборов, Шрепфер объявил конкурс, призвав специалистов всей IT-индустрии и научных кругов создавать системы ИИ, которые могли бы идентифицировать дипфейки, то есть фейки, генерируемые другими системами ИИ. Вопрос был в том, какая сторона победит. Для таких исследователей, как Ян Гудфеллоу, ответ был очевиден. Дезинформация победит. Ведь генеративно-состязательные сети как раз и замышлялись как метод создания генератора образов, способного обмануть любой детектор. И этот генератор победит еще до начала игры.

Через несколько недель после объявления конкурса кто-то из журналистов снова спросил Яна Лекуна, может ли искусственный интеллект остановить фейковые новости. «Я не уверен, что у кого-то есть технология, способная оценить правдивость новостей, – сказал он. – Ведь правдивость, особенно когда речь идет о политических вопросах, – очень субъективное понятие». Даже если бы вы могли построить машину, которая могла бы более-менее выполнять эту работу, добавил он, нашлось бы множество людей, которые сказали бы, что специалисты, которые ее создавали, были предвзятыми, и что данные, которые использовались для ее обучения, были предвзятыми, и они бы просто не приняли это. «Даже если бы такая технология существовала, – заключил он, – не факт, что ее стоило бы использовать».

Часть четвертая

Людей недооценивают

Глава 18

Дебаты. «Как бы долго ни продолжался стремительный прогресс, Гэри все равно будет утверждать, что это вот-вот закончится»

Для Google кульминацией года считается конференция под названием I/O. Это старое сокращение, принятое у компьютерщиков и означающее Input/Output («Ввод/Вывод»). Ежегодно в мае тысячи людей, желающих принять участие в этой корпоративной феерии, совершают паломничество в Маунтин-Вью. Они съезжаются со всей Кремниевой долины и из более удаленных уголков мира высоких технологий только для того, чтобы на протяжении трех дней знакомиться с новейшими продуктами и услугами компании. Эта ежегодная конференциия проводится в Shoreline Amphitheatre, концертном зале на двадцать две тысячи мест, шпили которого, похожие на цирковые шатры, возвышаются над поросшими травой холмами через дорогу от штаб-квартиры компании. За минувшие десятилетия в этом амфитеатре выступали многие выдающиеся музыкальные коллективы, от Grateful Dead до U2 и Backstreet Boys. И здесь же каждый год выходит на сцену Сундар Пичаи, чтобы рассказать тысячам разработчиков программного обеспечения о бесчисленных технологиях, рождающихся из недр его компании, деятельность которой становится все более многообразной. В день открытия конференции весной 2018 года Пичай, одетый в темно-зеленую флиску555 поверх ярко-белой футболки, объявил собравшимся, что разработанный компанией виртуальный голосовой помощник сам может делать телефонные звонки.

Благодаря методам, впервые разработанным Джеффом Хинтоном и его учениками в Торонто, Google Assistant научился распознавать произносимые слова не хуже человека. Благодаря Wavenet, технологии генерации речи, разработанной в DeepMind, разговаривает он тоже вполне по-человечески. И вот, стоя на сцене Shoreline Amphitheatre, Пичаи представил новую фишку. Google Assistant, объявил он собравшимся, теперь может сам позвонить в ресторан и зарезервировать столик556. Он делал это в фоновом режиме, через компьютерную сеть Google. Вам достаточно попросить Ассистента заказать столик на ужин557, и дальше вы можете заниматься своими делами, например выносить мусор или поливать газон, а Ассистент сделает автоматический телефонный звонок в выбранный вами ресторан откуда-нибудь из центра обработки данных Google. Пичай прокрутил аудиозапись одного из таких звонков558 – разговор между Ассистентом и женщиной, которая ответила на звонок в неназванном ресторане.

– Здравствуйте, чем могу помочь?559 – спросила женщина с сильным китайским акцентом.

– Здравствуйте, я хотел бы зарезервировать столик на среду, седьмого, – сказал Google Assistant.

– На семь человек? – переспросила женщина, и по залу прокатились смешки.

– Э-э, на четыре человека, – сказал Google Assistant.

– Четыре человека. Когда? Сегодня? Вечером? – спросила женщина в ресторане, и смешки стали громче.

– Э-э, в следующую среду в шесть.

– Вообще-то мы резервируем места не больше, чем для пяти человек. Вчетвером можете приходить.

– Как долго обычно приходится ждать, чтобы… э-э… занять место?

– В какое время? Завтра? Или в выходные?

– В следующую среду, э-э, седьмого.

– А нет, тогда не слишком людно. Можете приходить вчетвером, хорошо?

– Ага, понятно. Спасибо.

– Да, до свиданья, – сказала женщина, и зал взорвался овацией.

Как объяснил Пичай, эта новая технология, получившая название Duplex560, стала результатом нескольких лет прогресса в различных направлениях развития искусственного интеллекта, включая распознавание и генерацию речи, а также понимание естественного языка – то есть способность не просто распознавать и продуцировать отдельные слова, но и по-настоящему владеть человеческой речью. Тех, кто находился в аудитории, демонстрация Пичаи по-настоящему потрясла. Затем он прокрутил им вторую запись, где Google Assistant позвонил в парикмахерскую561, чтобы записаться на стрижку. Когда женщина в салоне сказала: «Дайте мне секундочку», а система ответила: «Ммм-ммм», – в зале раздались аплодисменты562. Система Duplex могла отвечать не только правильными словами, но и подходящими случаю звуками – правильными вербальными сигналами. В последующие дни многие специалисты говорили, что система Duplex так хорошо имитирует человека, что возникает вопрос об этичности этого. Ведь система фактически обманывает людей, заставляя их думать, что она тоже человек. Руководство Google согласилось настроить систему563 так, чтобы она всегда сообщала, что она бот. Вскоре компания выпустила этот инструмент для пользователей Соединенных Штатов.

Но, с точки зрения Гэри Маркуса, эта технология была совсем не тем, чем казалась.

Через несколько дней после того, как Пичай выступил со своей презентацией в Shoreline Amphitheatre, Маркус, профессор психологии Нью-Йоркского университета, опубликовал статью в New York Times564, в которой постарался поставить Google Duplex на место. «Если бы эта презентация не была хитроумным фокусом565, то, что мы увидели, можно было бы назвать впечатляющим (хотя и несколько жутковатым) достижением. Но Google Duplex вовсе не является значительным шагом навстречу действительно содержательному искусственному интеллекту, как многие, кажется, думают». Хитрость, по словам автора, заключалась в том, что эта система работает в крошечной нише566: бронирование столиков в ресторанах и запись на обслуживание в парикмахерских. Ограничивая сферу действия567 – а значит, и ограничивая возможные ответы на обоих концах телефонной линии, – Google