В промышленности существует широкий диапазон режимов проверки продукции перед ее эксплуатацией. Если разработчики приложений часто торопятся выпустить свой продукт на рынок, исправляя его недостатки в режиме реального времени, то аэрокосмические компании тщательнейшим образом испытывают свои самолеты до того, как хоть один человек ступит на борт. Эти различия зависят от множества факторов, включая степень риска, присущую отрасли, нормативный надзор и рыночные силы. Аналогичная картина, вероятно, будет иметь место и для различных ИИ, причем ИИ для автомобилей с автопилотом будет, по всей видимости, подлежать более жесткому надзору, чем ИИ для развлекательных платформ и соцсетей вроде TikTok.

Такой режим тестирования возможен для ИИ, которые обучаются до ввода в эксплуатацию. Если же ИИ продолжает учиться в процессе эксплуатации, он может демонстрировать неожиданное или нежелательное поведение, как это произошло с чат-ботом Microsoft Tay в 2016 г. Столкнувшись в интернете с проявлениями ненависти, Tay тут же начал подражать им и вскоре был отключен. Благодаря тому что эволюция большинства ИИ по завершении обучения останавливается, обученные модели (то есть параметры нейронной сети) в дальнейшем не меняются. Это позволяет тестировать ИИ, не опасаясь того, что после ввода в промышленную эксплуатацию он начнет вести себя неожиданным или нежелательным образом. Когда алгоритм фиксирован, автомобиль с автопилотом, обученным реагировать на сигналы светофора, не может внезапно «решить» проехать на красный свет. Это делает возможным всесторонние испытания и сертификацию ИИ – инженеры могут проверять поведение автопилота с ИИ в тестовой среде, прежде чем устанавливать его на реальный автомобиль, где ошибка может стоить жизни. Это не означает, что ИИ не будет вести себя неожиданным образом, если его поставить в новые условия, это означает только то, что предварительная проверка работы ИИ возможна. Еще одна возможность проверки качества – аудит наборов данных. Убедившись в том, что ИИ для распознавания лиц обучается на разнообразных наборах данных или что чат-бот использует для обучения тексты, из которых исключены проявления ненависти, разработчики могут понизить вероятность того, что ИИ даст сбой при вводе в эксплуатацию.

В любом случае ИИ действует в соответствии со своим кодом, что означает три вида ограничений. Во-первых, код задает параметры возможных действий ИИ. Эти параметры могут быть довольно широкими, допускающими значительный диапазон самостоятельности ИИ – а значит, и высокий уровень риска. ИИ автомобиля с автопилотом может тормозить, ускоряться и поворачивать, и любое из этих действий может привести к столкновению. Тем не менее параметры, задаваемые кодом, устанавливают некоторые ограничения поведения ИИ. Например, хотя AlphaZero и разработал новые поразительные шахматные стратегии, он не может нарушать шахматные правила – например, он не может сделать ход пешкой назад. Он попросту неспособен совершать действия, выходящие за рамки параметров его кода, – если некие действия изначально не заложены или непосредственно запрещены разработчиками, ИИ не сможет их совершать. Во-вторых, возможности ИИ зависят от его целевой функции. Эта функция определяет, какую именно задачу оптимизации решает ИИ. ИИ, открывший халицин, искал связь между химическими свойствами молекул и их антибиотическим потенциалом. Ограниченный своей целевой функцией, этот ИИ не мог бы попытаться найти молекулы лекарства против рака. Наконец, что наиболее очевидно, ИИ может обрабатывать только те входные данные, для распознавания и анализа которых он предназначен. На вход ИИ машинного перевода нельзя дать изображение – без вспомогательной программы оно покажется машине бессмыслицей.

Возможно, когда-нибудь ИИ смогут писать свой собственный код – уже известны зачаточные и весьма спорные попытки таких разработок. Но даже такие ИИ, скорее всего, не будут обладать самосознанием, их действия будут определяться их функциональностью и ограничениями. Они смогут писать код так же блестяще, как AlphaZero играет в шахматы, – но без размышлений и проявлений воли, в строгом соответствии с правилами. И несмотря на все эти ограничения, ИИ – это нечто поразительное.

Развитие алгоритмов машинного обучения в сочетании с большими объемами данных и значительными вычислительными мощностями обеспечило быстрый прогресс в применении ИИ, который, в свою очередь, подстегивал воображение и инвестиции. Разработка и внедрение ИИ, особенно в области машинного обучения, идут по всему миру, но главные центры этой деятельности – США и Китай[31]. Университеты, исследовательские лаборатории, корпорации и стартапы обеих стран сейчас находятся на переднем крае разработки и внедрения машинного обучения для ИИ.

Многие аспекты ИИ и машинного обучения еще предстоит разработать и понять. Например, ИИ, основанный на машинном обучении, требует значительного объема обучающих данных, для которого, в свою очередь, нужна значительная вычислительная инфраструктура, что делает непомерно дорогим переобучение ИИ, даже если оно целесообразно. Поскольку требования к данным и оборудованию замедляют создание более совершенного ИИ, важным этапом станет разработка методов обучения с использованием меньших объемов данных и менее существенных вычислительных мощностей.

Кроме того, несмотря на значительные достижения в области машинного обучения, для ИИ по-прежнему представляют проблему сложные виды деятельности, совмещающие несколько задач. Например, таким видом деятельности остается управление автомобилем, которое требует одновременного решения ряда задач – от визуального восприятия до выбора маршрута и выполнения маневров, предотвращающих аварии. Хотя за последнее десятилетие в этой области был сделан огромный прогресс, достичь эффективности вождения на уровне человека все еще сложно. В настоящее время ИИ уже способен демонстрировать хорошее вождение на шоссе с ограниченным доступом или в пригородах – но не в хаотичных условиях, таких как городское движение в час пик. Кстати, вождение по шоссе представляется особенно перспективным, поскольку водители-люди в таких условиях могут расслабляться и отвлекаться. Возможно, в недалеком будущем ездить на большие расстояния с ИИ станет безопаснее, чем с водителем-человеком.

Темпы развития ИИ предсказать сложно. В 1965 г. инженер Гордон Мур предположил, что вычислительная мощность будет удваиваться каждые два года. Его предсказание оказалось удивительно верным, но ИИ развивается гораздо менее линейно. Например, ИИ для перевода с иностранных языков был в застое целые десятилетия, пока не начал бешеными темпами развиваться благодаря сочетанию новых методов с увеличением вычислительных мощностей. Всего за несколько лет люди создали ИИ, способный переводить не хуже обычного двуязычного человека. Сколько времени потребуется на то, чтобы ИИ начал переводить как действительно талантливый профессиональный переводчик, неизвестно – если это вообще когда-нибудь произойдет.

Не менее сложно предсказать темпы внедрения ИИ в новых областях. Очевидно лишь, что стоит ожидать значительного роста возможностей ИИ. Независимо от того, сколько лет (или десятков лет) на это уйдет, это неизбежно. ИИ-приложения станут более компактными, эффективными, недорогими, а значит, и более популярными, чем сегодня. ИИ будет все глубже внедряться в нашу повседневную жизнь как заметным, так и незаметным для нас образом.