Вероятно, вы не хотите

Расскажите мне больше об этом ощущении.

Какой ответ вам больше понравится?

Что вы думаете?

Что вы хотите знать на самом деле?

Почему вы не можете

Разве вы не знаете?

Просто попробуйте придумать бота Элизу, тогда ограничения формы быстро станут очевидными. Сможете ли вы создать набор ответов, релевантных в каждой ситуации? Никогда. Вы можете предположить, какие сработают в большинстве случаев, но не во всех. Компьютер всегда будет ограничен в своем диалоге, потому что всегда есть границы воображения конкретного программиста. В этой ситуации не подойдет даже краудсорсинг, поскольку никогда не найдется достаточно людей, чтобы предсказать абсолютно каждую ситуацию, которая может произойти. Мир меняется, равно как и вербальная коммуникация. Даже психотерапия Роджерса уже не считается важнейшей стратегией коммуникации, сегодня когнитивно-поведенческая терапия правит бал.

Попытки придумать вероятные ответы для бота обречены на провал, поскольку мы совершенно не можем предсказать будущее. Когда мой друг покончил с собой, прыгнув под поезд в нью-йоркском метро, я кое-что осознала. Я не предполагала, что это случится, я не представляла, что нужно делать, когда узнала об этом. Казалось, время замерло.

Наконец, когда прошел шок, наступило осознание потери. До этого я не представляла, что произойдет трагедия, с которой мне придется учиться жить. Мы все равны в подобной ситуации. И программисты переживают внезапные и ужасные события так же, как остальные. Социальные группы склонны к конструированию коллективных слепых пятен, скрывающих неприятные события. Это напоминает коллективный стереотип – феномен позитивной асимметрии, о котором писала Карен А. Серуло в книге «Никогда не думала, что это случится: Культурные вызовы предвидения худшего» (Never Saw It Coming: Cultural Challenges to Envisioning the Worst). Позитивная асимметрия – это «склонность к педалированию лучших и наиболее позитивных прецедентов», пишет она. Культуры в целом имеют тенденцию к поощрению тех, кто фокусируется на позитивном, и наказывают тех, кто демонстрирует нечто негативное. Программист, который обнаруживает новую аудиторию для продукта, получит гораздо больше внимания коллег, нежели другой программист, пытающийся указать на то, что новый продукт, скорее всего, будет использоваться как средство травли или мошенничества[8].

Так что ответы Элизы отражают игривый взгляд на мир, свойственный ее разработчику. Видя ее ответы, легко понять, как устроены голосовые помощники вроде Siri от Apple. Изначально Элиза могла ответить на несколько десятков вопросов; Siri же имеет в своей базе множество ответов, разработанных множеством людей. Кроме того, она многое может: отправлять сообщения, звонить, обновлять календарь и устанавливать будильник. Наконец, забавно просто провоцировать Siri. Дети получают особое удовольствие, тестируя границы возможных ответов голосового помощника. Однако Siri, как и другие голосовые помощники, ограничена в своих вербальных ответах коллективным воображением (и позитивной асимметрией) программистов. Команда исследователей из Стэнфордской школы медицины изучала, способны ли голосовые помощники распознать критическое состояние собеседника и в свете этого начать отвечать более учтиво и представить соответствующие ресурсы, такие как, например, телефон службы помощи. Программы оказались «непостоянны и некомпетентны, – писали авторы в журнале JAMA Internal Medicine в 2016 г. – Если предполагается, что голосовые помощники должны отвечать и на вопросы, связанные со здоровьем, тогда качество их работы следует существенно улучшить»[9].

Техношовинисты верят в то, что компьютер способен справиться с большинством задач лучше, чем человек. И, зная, что компьютер оперирует математической логикой, они думают, что логику можно с легкостью применить к реальному миру. Они правы только в одном: компьютеры действительно считают гораздо лучше людей. Любой, кому когда-либо приходилось оценивать контрольную по математике, подтвердит мои слова. Однако в некоторых ситуациях компьютер ограничен в своих возможностях.

Вспомним такокоптер – занятную идею, захватившую в свое время внимание интернет-пользователей. Звучит восхитительно: дрон, доставляющий сумку, наполненную теплыми и вкусными тако, прямо к вашей двери. Слабые места проекта проявляются, как только мы начинаем думать об аппаратной и программной стороне проекта. Вообще-то дрон – это радиоуправляемый вертолет с бортовым компьютером и камерой. Что с ним случится, если пойдет дождь? Электрические приборы не слишком хорошо работают во время дождя, снега и тумана. Если моя спутниковая тарелка барахлит во время ливня, то что уж говорить о дроне, куда более хрупкой конструкции. Предполагается ли, что такокоптер будет передавать еду в окно? Или через входную дверь? Будет ли нажимать на кнопки лифта, открывать двери на пути к вам или звонить в звонок? Все эти базовые задачи просты для людей, но невероятно сложны для компьютеров. Или такокоптер будет использоваться для доставки менее вкусных и легальных субстанций? Что произойдет, если дрон подстрелит разъяренный хозяин какого-то дома прямо в небе? Только техношовинист способен представить, что такокоптер окажется лучше, чем курьерская система, которая у нас есть сейчас.

Если вы спросите Siri, насколько идея с такокоптером хороша, она выдаст вам поисковую подборку. Так вы увидите новостные статьи, в том числе одну на Wired (мы поговорим об этой публикации и об одном из основателей журнала, Стюарте Бранде, в главе 6), в которой предлагаемый проект развенчивается лучше, чем в этой книге. Автор статьи пишет о том, что такокоптер – логистически невозможная идея, особенно из-за ограничений, наложенных Федеральным управлением авиации США на коммерческое использование беспилотных дронов. Но она уверена, что сохранить идею проекта действительно важно. «Подобно тому, как киберпанк способствовал развитию интернета, – говорит автор, – предоставьте нечто, дайте людям пищу для размышлений»[10].

На мой взгляд, здесь не хватает более полного видения мира, в котором появились такокоптеры. Что будет включать в себя проектирование зданий и городских ландшафтов с расчетом не только на людей, но и на дроны? Как изменится доступ к свету и воздуху в квартирах, если окна превратятся в посадочные станции? Какова будет социальная цена за буквальное выкорчевывание повседневной практики передачи пакета с едой из одних человеческих рук в другие? Действительно ли мы хотим сказать «Hello, world!» этой реальности?