В 2000 году в тихом торговом городке Алник букинисты Мэри и Стюарт Мэнли открыли ящик с подержанными книгами, которые они недавно приобрели на аукционе. Разбирая ящик, на дне они обнаружили сложенный лист красной бумаги. Развернув его, они прочитали пять слов «потерянного» плаката Министерства информации: «Сохраняйте спокойствие и продолжайте действовать»[160].

Плакат настолько понравился чете Мэнли, что они вставили его в рамку и повесили на стену своего магазина, где он сразу привлек внимание покупателей. К 2005 году они продавали по 3000 экземпляров в неделю. А в 2008 году этот мем взорвал сознание мирового сообщества. Рецессия охватывала мир, и многие стремились пробудить в себе непреклонность и твердость духа, с которыми истинные британцы с древних времен встречали тяжелые времена. «Сохраняйте спокойствие и продолжайте действовать» – это было в точку. Лозунг появился на кружках, ковриках для мышки, брелоках – на всех сувенирах, которые только можно представить. Даже на туалетной бумаге. Лозунг заимствовали самые разные рекламные кампании – от индийских ресторанов («Сохраняйте спокойствие и добавьте карри») до презервативов («Сохраняйте спокойствие и надевайте его»)[161]. Кажется, что любая комбинация «Сохраняйте спокойствие и [глагол] [существительное]» вызывала восторг у публики. Почти любая.

Эта простая идея очень приглянулась онлайн-мерчандайзеру Майклу Фаулеру. В 2010 году ассортимент компании Фаулера Solid Gold Bomb, продающей футболки с принтами, насчитывал около 1000 различных позиций. Фаулер решил повысить эффективность своего бизнеса. Вместо того чтобы платить за хранение огромного количества готовых футболок, он перешел на печать по требованию. Это позволяло ему значительно разнообразить свое предложение, печатая при этом только заказанные принты. Наладив процесс печати, он занялся написанием компьютерных программ, которые автоматически генерировали эскизы. Ассортимент Solid Gold Bomb почти мгновенно вырос с тысячи до более чем десяти миллионов позиций. Один из таких алгоритмов, созданный в 2012 году, работал со списками глаголов и существительных, объединяя их по простой формуле «Сохраняйте спокойствие и [глагол] [существительное]». Фразы, сгенерированные программой, автоматически проверялись на синтаксические ошибки, накладывались на изображение футболки и выставлялись на продажу на Amazon по цене около $20 за штуку. На пике продаж Solid Gold Bomb Фаулер продавал 400 футболок в день с фразами типа «Сохраняйте спокойствие и надирайте задницы» или «Сохраняйте спокойствие и много смейтесь». Проблема заключалась в том, что он также автоматически выставил на продажу в крупнейшем в мире интернет-магазине несколько футболок с фразами типа «Сохраняйте спокойствие и пните ее» или «Сохраняйте спокойствие и насилуйте всех».

Удивительно, но почти целый год эти фразы не привлекали особого внимания. Но как-то в марте 2013 года, страницу Фаулера в Facebook внезапно засыпали смертельными угрозами и обвинениями в женоненавистничестве. Фаулер отреагировал быстро и снял с продажи футболки с оскорбительными надписями, но ущерб оказался слишком велик. Amazon приостановила работу страниц Solid Gold Bomb, продажи упали практически до нуля и, несмотря на отчаянные трехмесячные попытки поправить дело, компания в конце концов пошла на дно. Разработанный Фаулером алгоритм, казавшийся в свое время замечательной идеей, в итоге привел к тому, что он и его сотрудники лишились средств к существованию.

Amazon эта история тоже не сошла с рук. На следующий день после того, как Solid Gold Bomb принесли официальные извинения за этот конфуз, Amazon все еще сохранял в продаже футболки с лозунгами «Сохраняйте спокойствие и распускайте руки» и «Сохраняйте спокойствие и прирежьте ее». Торговому гиганту объявили бойкот, к которому (в «Твиттере») присоединился даже лорд Прескотт, бывший заместитель премьер-министра Великобритании: «Сначала Amazon уклоняется от уплаты налогов в Великобритании, а теперь они зарабатывают на домашнем насилии». Понятно, что крупнейшая в мире торговая сеть делала это ненамеренно – просто технологический гигант, операционная деятельность которого настолько компьютеризирована, попал в одну из многих ловушек неконтролируемой деятельности алгоритмов.

•

В 2011 году Amazon уже пострадал от казуса, вызванного работой автоматизированных алгоритмов ценообразования. 8 апреля того года специалист в области вычислительной биологии из Беркли Майкл Айзен обратился к одному из своих коллег с просьбой достать для лаборатории новую копию классической, но давно уже не выходившей работы по эволюционной онтогенетике The Making of a Fly («Создание мухи»). Тот запустил поиск в Amazon и был вполне доволен, обнаружив два экземпляра книги, выставленных на продажу. Приглядевшись, однако, он обнаружил, что одна из книг, от продавца с ником profnath, предлагалась за 1 730 045,91 доллара США. Другой экземпляр, от bordeebook, продавался за 2 миллиона с лишним. Как бы ни была необходима ему эта книга, Айзен не мог согласиться с такой ценой, поэтому решил посмотреть, не снизится ли она. Но на следующий день он обнаружил, что все стало еще хуже: обе книги стоили почти 2,8 миллиона. Еще через день цена перевалила за 3,5 миллиона.

Айзен быстро разобрался в причинах этого безумного ажиотажа. Каждый день profnath устанавливал их цену в 0,9983 от предложения bordeebook. Чуть позднее в тот же день bordeebook проверял листинг profnath и поднимал свою цену примерно в 1,27 раза. День за днем цена bordeebook росла пропорционально ее текущему размеру, что приводило к ее экспоненциальному росту, а цена profnath ненамного отставала от нее. Если бы цену определял человек, он быстро заметил бы умопомрачительную цифру. К сожалению, этот динамический процесс перерасчета цен осуществлял не человек, а один из тех алгоритмов ценообразования, которые предлагает выставляющимся на своей площадке продавцам Amazon. Видимо, никто не подумал о том, чтобы включить в этот алгоритм опцию ценового «потолка», а если и подумал, то продавцы решили не использовать ее.

Тем не менее демпинговая стратегия profnath до некоторой степени разумна. Она гарантирует, что выставленная им книга будет самой дешевой из доступных и, следовательно, окажется на первой строке списка поиска; при этом дисконт не слишком сильно срежет прибыль. Но почему bordeebook выбирал алгоритм, заведомо проигрышный с точки зрения ценовой конкуренции – ведь книгу по завышенной цене никто не купил бы, и она только занимала бы место на складе? Этому есть единственное разумное объяснение: у bordeebook книги не было. Айзен подозревает, что bordeebook пытался эксплуатировать свою репутацию надежного и достойного доверия продавца, которую подтверждал его высокий пользовательский рейтинг. Если бы кто-то заказал книгу у bordeebook, он бы быстро купил реальную копию у profnath и отправил бы ее заказчику. Более высокая цена позволяла bordeebook покрыть почтовые расходы на транзакции, получив при этом прибыль от продажи товара.

Через десять дней после того, как Айзен впервые заметил непомерные цены, они еще больше выросли и достигли отметки в $23 миллиона. К сожалению, 19 апреля кто-то из profnath заметил нелепую цену, запрашиваемую за книгу 20-летней давности, и испортил Айзену веселье, сбросив цену до 106,23 доллара. На следующий день цена bordeebook составляла $134,97 – примерно в 1,27 раза больше цены profnath – что и перезапустило цикл. Цена снова достигла пика в августе 2011 года – на сей раз всего $500 000 – где и застыла на три месяца. Видимо, кто-то из продавцов усвоил урок и ввел потолок отсечения, хотя и не очень реалистичный. На момент написания статьи в интернете можно было найти около 40 предложений о продаже этой книги, начинавшихся с более разумной цены в районе семи долларов.