Р. Б.: Соревнование в этой сфере неизбежно. Оно было между компаниями и будет между странами.

М. Ф.: Опасно ли для стран Запада, если лидером в этой сфере окажется такая страна, как Китай?

Р. Б.: Я не думаю, что все так просто. Мы увидим неравномерное использование ИИ-технологий. Например, в Китае уже сейчас лица распознаются способом, неприемлемым в США. Что касается процессоров AI chip, здесь отставание непозволительно. Но для поддержания темпа нужны ресурсы.

Между тем политики говорят, что нам нужно больше работников угольной промышленности. Научные же бюджеты сокращаются, меньше финансируются даже такие места, как Национальный институт стандартов и технологий. Эти отсталые взгляды приносят вред.

М. Ф.: Но ведь ИИ и робототехника несут в себе не только благо. Многие считают, что мы на пороге новой промышленной революции. Как вы оцениваете влияние новых технологий на рынок труда и экономику?

Р. Б.: Влияет не сам ИИ, а то, как его используют. Влияет оцифровка мира и создание новых решений. Например, в США на большей части платных дорог и мостов оплата принимается автоматически, а раньше это делали люди. На лобовое стекло теперь ставится метка с цифровой подписью автомобиля, а ИИ-система с глубоким обучением позволяет надежно ее прочитать. Это достижение в сфере компьютерного зрения позволило избавиться от сборщиков платы за проезд. Причем при оплате можно обойтись даже без физического предоставления кредитной карты, и не требуются автомобили, чтобы доставлять деньги в банк, когда есть цифровая логистическая цепь.

Как видите, для автоматизации работы сборщика оплаты за проезд потребовался целый набор цифровых компонентов. ИИ всего лишь один из них. И замена человека на ИИ-систему произошла не за одну ночь. Это постепенный процесс, который медленно модифицирует рынки труда.

М. Ф.: Цифровые сети закроют много вакансий, не требующих высокой квалификации?

Р. Б.: Есть ряд недооцененных вещей, необходимых для поддержания нашего общества, таких как помощь пожилым людям и инвалидам. Школьные учителя лишены признания и достойной заработной платы. И я не знаю, как сделать эту работу экономически выгодной. Раз часть рабочих мест исчезнет из-за автоматизации, как мы можем распознать и оценить по достоинству рабочие места, которым такая опасность не угрожает?

М. Ф.: То есть вы считаете, что массовая безработица нам не опасна. Но мне кажется, что исчезнет много престижных рабочих мест. Офисный сотрудник с высшим образованием окажется не у дел, в то время как горничная в отеле продолжит спокойно работать.

Р. Б.: Может быть и такое. Но причина будет не в ИИ, а в массовом переходе к цифровым решениям.

М. Ф.: Но ведь именно на этой платформе будет развернут ИИ, что приведет к ускорению процесса.

Р. Б.: Да, при наличии подходящей платформы развернуть ИИ проще. Но эта платформа базируется на компонентах, которые могут быть взломаны кем угодно.

М. Ф.: Раз речь зашла о безопасности, о чем еще имеет смысл беспокоиться?

Р. Б.: Основной вопрос связан именно с безопасностью. Меня волнует отказ от безопасности и конфиденциальности цифровых цепочек, который мы добровольно совершили в обмен на простоту использования технологий. Мы уже видели применение социальных сетей в качестве оружия. Вероятнее всего, мы увидим агрессию не от ИИ, а от людей, использующих его.

М. Ф.: А что вы думаете по поводу вооружения роботов и дронов? Стюарт Рассел снял об этом довольно страшный фильм «Роботы-убийцы».

Р. Б.: Сегодня такие вещи вполне возможны, ИИ для них не нужен. Фильм был импульсивной попыткой сказать, что роботы и война – плохая комбинация. Я считаю немного по-другому. Робот может дожидаться, пока в него выстрелят, и стрелять только в ответ. Парень 19 лет в чужой стране в темное время суток, когда вокруг полно вооруженных людей, такой роскоши себе позволить не может.

Говорят, что проблему можно решить, запретив применение ИИ в армии. На самом деле нужно понять, чего мы не хотим, определиться с проблемой, которая не связана с ИИ. Скажем, наш следующий полет на Луну будет зависеть от ИИ и машинного обучения, но в 1960-х гг. мы справились и без этого.

М. Ф.: Что вы думаете о проблеме контроля сильного ИИ и о комментариях Илона Маска?

Р. Б.: Когда в 1789 г. жители Парижа впервые увидели воздушный шар, они были обеспокоены тем, что там, наверху, из людей высасывают души.

Я написал эссе The Seven Deadly Sins of Predicting the Future of AI («Семь смертных грехов в предсказании будущего ИИ»), и все эти грехи крутятся вокруг вышесказанного. Люди представляют точно такой же мир, как сейчас, но с суперразумом в центре. На самом же деле нас ждет видоизмененный мир.

М. Ф.: Нужно ли будет регулировать технологические прорывы, когда они произойдут?

Р. Б.: Как я уже говорил, регулировать нужно действия, а не инструменты. Должны ли мы прекратить исследования на оптических компьютерах, позволяющих намного быстрее выполнять матричное умножение и быстрее применять глубокое обучение? Нет, это безумие. Будет ли разрешено беспилотным грузовым автомобилям становиться на длительную стоянку в переполненных районах Сан-Франциско? Это уже нужно регулировать. А технологии лучше оставить в покое.

М. Ф.: Учитывая все вышесказанное, полагаю, вас можно назвать оптимистом? Вы верите, что преимущества всего этого перевесят любые риски?

Р. Б.: Конечно. Мир уже перенаселен, и чтобы выжить, мы должны идти этим путем. Меня сильно беспокоит снижение уровня жизни, потому что по мере старения населения перестанет хватать рабочей силы. Меня волнуют вопросы безопасности и конфиденциальности.

Голливудская идея владычества сильного ИИ уже давно захватила умы, и мы тратим ресурсы на решение неактуальной проблемы, в то время как нужно беспокоиться о сегодняшних опасностях и рисках.

Синтия Бризил

“Меня не так пугает гипотетическое порабощение человечества сверхинтеллектом, как люди, которые могут злоупотребить новыми технологиями".

Доцент кафедры медиаискусства и наук, директор группы персональных роботов в медиалаборатории MIT, смотритель Музея науки в Бостоне, основатель компании JIBO, INC.

Синтия Бризил – создатель первого в мире социального робота Kismet. Многие из известных разработок – от миниатюрных роботов-гексаподов и до роботизированных технологий, встроенных в повседневные вещи, – принадлежат Синтии. Журнал Time включил ее в список лучших изобретателей 2008 и 2017 гг. и признал ее робота Jibo одним из лучших изобретений 2017 г. В 2014 г. признана самой перспективной женщиной-предпринимателем по версии журнала Fortune.