О. Э.: Понятие «развивающийся интеллект» (emergent intelligence) употреблял еще когнитивист Дуглас Хофштадтер. Сейчас его применяют в разных контекстах, когда речь заходит о сознании и здравом смысле. Но какие бы предположения о будущем ИИ мы ни строили, хотелось бы, чтобы они основывались на конкретных наблюдаемых данных. Пока что мы видим, что глубокое обучение применяется как статистические модели высокой емкости, которые улучшаются путем увеличения количества данных. Они представляют собой матрицы чисел, которые умножаются, суммируются, вычитаются и т. д., что никак не способствует появлению здравого смысла или сознания. По крайней мере, я подобного не видел.

М. Ф.: Какие проекты в сфере ИИ можно считать передовыми разработками? Где можно ожидать следующего впечатляющего прорыва?

О. Э.: Мне кажется, что самые захватывающие вещи сейчас делает компания DeepMind.

Меня восхитили успехи программы AlphaZero, потому что ее отличной производительности удалось добиться без множества маркированных примеров. В то же время настольные игры – это очень ограниченная сфера. Мне хотелось бы увидеть достижения в сфере робототехники, обработки естественного языка и переноса обучения.

Интересны и работы Джеффри Хинтона, который пытается искать другие подходы к глубокому обучению. Захватывающие вещи происходят и у нас в AI2: мы хотим добавить к парадигме глубокого обучения символические подходы.

Есть люди, которые занимаются обучением без подготовки (zero-shot learning), когда задачу нужно решать без обучающих этому материалов. Или однократное обучение (one-shot learning), когда программа способна предпринимать некие действия после просмотра всего одного примера. Такими вещами занимается доцент кафедры psychology and data science Нью-Йоркского университета Бренден Лэйк.

Том Митчелл из Университета Карнеги – Меллона занимается непрерывным обучением (lifelong learning), при котором система не только просматривает набор данных и строит модель, но и продолжает функционировать и учиться.

М. Ф.: Существует еще и такая техника, как обучение по плану (curriculum learning), когда процесс начинается с простых вещей и постепенно переходит к более сложным.

О. Э.: Если посмотреть внимательно, ИИ – это область, изобилующая неправильно употребляемыми терминами, порой чрезмерно грандиозными. Изначально использовался не лучший, на мой взгляд, термин «ИИ». Затем появились «человеческое познание» и «машинное обучение». Это красиво звучит, но на самом деле набор используемых здесь методов часто очень ограничен. Фактически мы просто пытаемся расширить сравнительно небольшой набор статистических методов и добавить туда больше характеристик, относящихся к обучению людей.

М. Ф.: Вы верите в возможность создания сильного ИИ?

О. Э.: Конечно. Я материалист и не думаю, что в нашем мозге есть что-то кроме атомов. Следовательно, процесс мышления представляет собой некую форму вычислений. Я вполне допускаю, что через какое-то время мы поймем, как реализовать это в машине, и я допускаю, что нам не хватает интеллекта, чтобы сделать это. Но интуиция подсказывает мне, что сильный ИИ, скорее всего, будет создан. Я не знаю, когда это произойдет, потому что пока мы даже не в состоянии сформулировать вопросы, на которые нужно искать ответ.

Пабло Пикассо говорил, что компьютеры бесполезны, потому что отвечают на вопросы, а не задают их. Строгое определение вопроса означает, что мы можем выразить его математически или как вычислительную задачу. Но есть множество вопросов, для которых строгое определение пока невозможно. Как строго сформулировать, например, задачу представления естественного языка или здравого смысла внутри компьютера?

М. Ф.: Какие основные препятствия отделяют нас от сильного ИИ?

О. Э.: Для начала нужно научиться создавать программы, умеющие выполнять несколько задач: говорить и видеть, играть в настольные игры, переходить улицу, жевать жвачку… Это, конечно, шуточный пример.

Еще нужны системы, которые учатся на единственном примере и узнают объект по частичной информации.

Также важно самовоспроизведение. Представьте ИИ-систему, имеющую физическое воплощение, которая может быстро делать свои копии. У людей процесс создания себе подобных довольно сложный, но у ИИ-систем он вообще отсутствует. Скопировать программное обеспечение несложно, чего нельзя сказать об аппаратной части.

М. Ф.: Наверное, ключевым можно считать умение переносить знания из одной предметной области в другую. Вы говорили о машине, которая читает главу из учебника, а затем может ответить на вопросы. Мне кажется, именно эта способность лежит в основе истинного интеллекта.

О. Э.: Я с вами полностью согласен. Это тоже шаг на пути к сильному ИИ. Подобная способность нужна для функционирования ИИ в реальном мире, полном непредвиденных ситуаций.

М. Ф.: Я хочу поговорить об опасностях, связанных с ИИ, но сначала скажите, где ИИ может обеспечить самые большие преимущества?

О. Э.: Во-первых, это беспилотные автомобили. Только на американских автомагистралях ежегодно погибает более 35 тысяч человек. За год происходит порядка миллиона несчастных случаев. Исследования показали, что эти цифры можно уменьшить введением беспилотного транспорта. Меня вдохновляет ИИ, спасающий жизни. Во-вторых, это наука. Ведь именно научные разработки помогают экономическому росту, совершенствованию медицины и другим полезным вещам. Перед нами стоят проблемы рака и устойчивых к антибиотикам вирусов. Проект Semantic Scholar поможет ученым в разработке новых лекарств.

Людям, которые говорят о том, что ИИ лишит нас жизни, мой коллега Эрик Хорвиц отвечает, что отсутствие ИИ-технологий уже сейчас убивает людей. Третья по значимости причина смерти в американских больницах – врачебная ошибка. Многие из этих ошибок можно предотвратить с помощью ИИ. Таким образом, наша неспособность использовать ИИ многим стоит жизни.

М. Ф.: Раз уж вы упомянули беспилотные автомобили, скажите, через какое время, по вашим оценкам, могут появиться такие такси? Когда эта услуга станет общедоступной?

О. Э.: Боюсь, что подобное появится не раньше чем через 10 лет. А может, и через двадцать.

М. Ф.: И в результате множество водителей останутся без работы. И не только они. Вполне возможен экономический спад и исчезновение большого количества рабочих мест.

О. Э.: Я не очень понимаю людей, много и активно говорящих об опасности, которую несет нам суперинтеллект. У нас достаточно реальных проблем. И одна из самых острых – будущее рынка труда. Существует тенденция к сокращению производственных рабочих мест, а внедрение ИИ-технологий ускорит этот процесс.

Но я хотел бы отметить, что в этом аспекте демографическая ситуация работает на нас. Сейчас в среднем уменьшается количество детей и при этом растет продолжительность жизни. Общество стареет. В результате, с одной стороны, мы имеем рост автоматизации, а с другой – количество рабочих рук не увеличивается в том же темпе, что и раньше. Сейчас прекратился прирост количества работающих женщин. Это дает основания надеяться, что в следующие десятилетия спрос на рынке рабочей силы расти не будет. Но это не решает проблему массовой безработицы из-за автоматизации.