— Ты — не цена, которую мы заплатим за будущее, я не хочу, чтобы ты так думал, — Янь Цзюань говорила совершенно серьезно. — Ты сам — будущее.

Китаянка вытащила свой смартстрим и протянула Чамалу: «Глянь, как тебе?»

На экране развернулась статья с популярного аналитического сайта: «Святой возница: мальчик из Шри-Ланки за рулем беспилотного автомобиля спасает от смерти 11 человек». Пост был проиллюстрирован узнаваемым силуэтом Чамала в его боевом шлеме.

Анализ. Транспортные средства без водителя; полная автономия и умные города; социально-этические вопросы

В научно-фантастических фильмах, — например, «Рыцарь дорог» или «Особое мнение»[76], — беспилотники разного типа уже довольно давно представлены как нечто обыденное. На самом деле такие машины — один из столпов или святой Грааль искусственного интеллекта. Управление любым транспортным средством представляет собой сложную задачу с множеством подзадач и вводных, а также с заметными проблемами в плане неопределенности среды и маловероятных сценариев развития событий.

Именно поэтому в рассказе «Святой возница» говорится, что эта технология еще не достигнет зрелости к 2041 году, хотя от начала коммерческих разработок Google в этой области пройдет уже 32 года, и 52 — с момента, когда Университет Карнеги — Меллона продемонстрировал первый исследовательский прототип беспилотника на реальной трассе.

Автономные транспортные средства станут по-настоящему беспилотными и «самостоятельными» не в результате какого-то одного крупного прорыва, а после десятилетий неудач и ошибок. Одной из первых реализованных технологий данного направления была система автоматического экстренного торможения (AEB), которой, согласитесь, еще есть куда расти.

Беспилотный транспорт, о котором теперь говорят все чаще, — это не просто нынешние апгрейдированные автомобили, а принципиально новый элемент инфраструктуры умного города. Именно в таком виде он и описан в нашем рассказе.

Как показано в «Святом вознице», реализация этой технологии негативно скажется на целом ряде профессий и отраслей и породит серьезные проблемы этического и юридического характера. Разберем их подробнее.

ЧТО ТАКОЕ АВТОНОМНОЕ ТРАНСПОРТНОЕ СРЕДСТВО?

Попросту говоря, беспилотный автомобиль — это управляемая компьютером машина, которая едет без человека-водителя.

Как уже говорилось, вождение является сложной комплексной задачей — считается, человеку требуется около 45 часов, чтобы научиться управлять машиной. Данный процесс с участием человека включает в себя следующие компоненты: восприятие (наблюдение за окружающим миром посредством зрения и слуха); навигация и планирование (увязка среды с локациями на карте и перемещением из точки А в точку Б); выдвижение версий и умозаключения (прогнозирование намерений и действий других участников движения — пешеходов и водителей); принятие решений (применение правил дорожного движения к конкретным ситуациям) и собственно управление транспортным средством (перевод намерения в поворот рулевого колеса, нажатие на педаль газа или тормоза и так далее).

Когда автомобилем управляет ИИ, а не человек, то «думают» нейронные сети, а функции рук и ног выполняют механические компоненты. Например, для восприятия окружающей среды используются камеры, технология лидар и другие радары.

Система ИИ-навигации прокладывает маршрут — связывает каждую точку на дороге с точкой на цифровой карте высокого разрешения.

Специальные алгоритмы позволяют ИИ прогнозировать действия автомобилей или пешеходов. В экстренной ситуации — при внезапном обнаружении препятствия или тем паче движущегося препятствия — решения принимаются на основе действующих регламентов или статистических данных.

Автономные транспортные средства будут совершенствоваться постепенно. Сначала водителю-человеку придется поддерживать ИИ, но потом потребность в этом отпадет. Эти этапы классифицированы Обществом автомобильных инженеров[77] по уровням автономности от 0 до 5 следующим образом.

• Уровень 0 (автоматизация отсутствует) — всем управляет человек, а ИИ только следит за дорогой и предупреждает водителя об опасности, когда сочтет это целесообразным.

• Уровень 1 (практический) — ИИ принимает на себя одну функцию, которую для него определяет водитель-человек, например рулевое управление (круиз-контроль — САПС).

• Уровень 2 («руки прочь») — ИИ выполняет несколько задач (рулевое управление + торможение + ускорение), но ожидает, что человек следит за процессом и при необходимости перехватит управление.

• Уровень 3 («долой глаза») — ИИ может полноценно управлять автомобилем, но человек должен быть готов по его запросу принять управление. (Скептики считают, что подобная резкая передача управления от ИИ к человеку, скорее всего, не ослабит, а усугубит опасную ситуацию.)

• Уровень 4 («долой мысли») — ИИ может управлять автомобилем на протяжении всей поездки, но только по дорогам и только при условии понимания окружающей среды — например, по городским улицам и шоссе, нанесенным на карту в высоком разрешении.

• Уровень 5 («рулевое управление человеком-водителем как опция») — человек-водитель не требуется вообще ни для каких дорог и сред.

Уровни 0–3 можно рассматривать как дополнительные опции, инструментарий ИИ в автомобиле, которым управляет человек. Они повлияют на будущее нашего транспорта только ограниченно.

А вот начиная с уровня 4 машина уже воспринимается как нечто разумное. Когда мы достигнем этого уровня, влияние беспилотников на наше общество примет поистине революционный характер. Транспортное средство уровня 4 — это, например, автобус без водителя, который курсирует по фиксированному маршруту.

Автомобиль уровня 5 может быть роботом-такси, которое можно вызвать через компьютерное (мобильное) приложение — вроде нынешнего Uber или другого агрегатора.

КОГДА ПОЯВИТСЯ ПОЛНОСТЬЮ АВТОНОМНЫЙ ТРАНСПОРТ (УРОВНЯ 5)?

Транспортные средства уровней 0–3 доступны в коммерческом применении уже сегодня. В конце 2018 года в некоторых частях некоторых городов началось ограниченное экспериментальное использование автономных машин уровня 4[78]. Но уровень 5 (и даже уровень 4 с меньшими ограничениями) — это все еще относительно далекое будущее.

Основное препятствие на пути к переходу на уровень 5 — сложность обучения ИИ. Необходимая база данных должна адекватно отображать процесс реального вождения, учитывая бесчисленное множество возможных сценариев. Кроме того, огромна и степень их изменчивости, поэтому пока нет возможности (и способа) собрать воедино все варианты взаиморасположения объектов, перемещающихся по дорогам во всех направлениях при любых погодных условиях.

Правда, уже имеется несколько способов справиться с этой проблемой редких событий. Мы, например, умеем постепенно синтезировать все более сложные данные, виртуально добавляя к каждой дорожной ситуации медлительных пожилых пешеходов; людей, выгуливающих собак; снующих детей с мячиками — и вообще все что угодно.

Мы уже сейчас могли бы запрограммировать некоторые правила относительно «восприятия дороги» при вождении — например, маневры автомобилей (на самом деле, конечно, действия водителей-людей) на четырехполосной дороге в зоне действия знака Stop — благодаря этому отпадет необходимость обучать ИИ пониманию дороги на основе данных.

Однако предлагаемые решения — не панацея, поскольку синтезированные данные априори хуже реальных, а правила в какой-то момент могут оказаться неуместными или начать противоречить друг другу. Но самая большая проблема для достижения уровня 5 — чрезвычайно высокая цена возможной ошибки полностью автоматического автомобиля. Если ИИ неудачно порекомендует вам продукт на Amazon — это досадно, но