М. Ф.: Поможет ли адаптировать общество к экономическим последствиям автоматизации такая вещь, как универсальный базовый доход?

О. Э.: Ситуация, которую мы уже видели в области сельского хозяйства, явно повторяется в сфере производства. Очевидно, что в ближайшие 10–50 лет многие рабочие места либо полностью исчезнут, либо будут радикально преобразованы. Соответствующие обязанности начнут выполняться меньшим количеством людей, зато намного эффективнее.

Людей, занятых в сельском хозяйстве, сейчас намного меньше, чем раньше, а их рабочие обязанности стали намного сложнее. Естественным образом возникает вопрос, чем заниматься всем остальным? Я не знаю точного ответа, но в феврале 2017 г. я написал статью для журнала Wired, которая называется Workers displaced by automation should try a new job: Caregiver («Работники, уволенные автоматизацией, должны попробовать новую профессию: социальный работник»), где высказался об уязвимости людей без высшего образования в новой экономической ситуации.

Не поможет нам и универсальный базовый доход, особенно если учесть, что у нас пока нет ни всеобщего здравоохранения, ни всеобщей доступности жилья.

М. Ф.: Фактически получается, что поиск решений в этом случае становится проблемой политиков.

О. Э.: Я не уверен, что существует какое-то универсальное решение, но мне кажется, что имеет смысл рассмотреть варианты работы, которые ориентированы на человека. Можно представить работу по обеспечению эмоциональной поддержки. Это компаньоны для пожилых людей, это сиделки для детей с особыми потребностями. Есть много групп населения, которые предпочтут видеть рядом с собой человека, а не робота.

Если общество начнет выделять ресурсы на такие виды работы, обеспечив достойную зарплату, на эти рабочие места появится множество претендентов. Разумеется, это не панацея, но подумать в этом направлении имеет смысл.

М. Ф.: О чем еще стоит беспокоиться в ближайшие десятилетия?

О. Э.: Серьезной проблемой уже стали вопросы кибербезопасности, а появление ИИ только усугубляет ситуацию. Беспокоит и возможность создания автономного оружия, особенно самостоятельно принимающего решения. Но проблема массовой безработицы все равно остается на первом месте.

М. Ф.: А что вы думаете по поводу экзистенциальной опасности, которую несет с собой сильный ИИ, и по поводу проблемы выравнивания?

О. Э.: Это интересные вопросы для немногочисленных философов и математиков. Обычным же людям нет никакого смысла волноваться о таких вещах, тем более что в настоящий момент мы не можем предпринять никаких реальных действий для предотвращения подобной угрозы.

С моей точки зрения, если суперинтеллект все-таки появится, это будет очень интересно. Будет здорово получить возможность с ним общаться. Работа над пониманием естественного языка в AI2 кажется мне ценным вкладом в безопасность ИИ. Не менее ценным, чем беспокойство по поводу выравнивания целей. В конечном счете, в обоих случаях речь идет всего лишь о технической проблеме, связанной с целевыми функциями и с обучением с подкреплением. На мой взгляд, мы достаточно инвестируем в безопасность ИИ.

Кроме того, обсуждая ИИ, люди часто упускают из виду разницу между интеллектом и автономностью. Зачастую считается, что эти вещи идут рука об руку. Но в системе AlphaGo, которая не начнет игру, пока ее кто-то не запустит, мы видим высокий интеллект и низкую автономность. А вот группа подростков, пьющая алкоголь в субботу вечером, – это пример высокой автономности при низком интеллекте. Я, конечно, шучу. Реальным примером тут будет, скорее, компьютерный вирус, который, не обладая особым интеллектом, может быстро распространяться по компьютерным сетям. Опасна именно автономность.

М. Ф.: Да, беспилотники или роботы, самостоятельно принимающие решение убить человека, вызывают большое беспокойство в ИИ-сообществе.

О. Э.: Как видите, проблема именно в том, что они могут самостоятельно принимать решения о жизни и смерти. С другой стороны, применяя такие вещи с умом, мы можем спасать жизни. Например, сделав воздействие более целенаправленным. Представьте, что можно устранить террористов, никак не затронув заложников. Кроме того, мы сами проектируем все эти системы и, соответственно, можем выбирать степень их автономности.

М. Ф.: Может ли решить проблему автономных ИИ-систем нормативно-правовое регулирование?

О. Э.: Я считаю, что когда речь заходит о мощных технологиях, регулирование неизбежно и уместно. Но мне кажется, что акцент нужно делать на регулировании ИИ-приложений, а не самой технологии. Обратите внимание, что мы пока не можем четко провести границу между программным обеспечением и ИИ. Но, к примеру, после инцидента с такси Uber Национальный совет по безопасности на транспорте поднял вопрос автомобилей с ИИ-системами. Так что введение регулирующих норм – это только вопрос времени.

Брайан Джонсон

“ИИ – это лучшее, что с нами когда-либо случалось. Этот факт нужно принять. И использовать ИИ, чтобы раскрыть секреты человеческого мозга. Без него мы с этой задачей не справимся".

Предприниматель, основатель компаний KERNEL и OS fund

Брайан Джонсон инвестирует в научные проекты, направленные на решение насущных проблем человечества. Миссия компании Kernel – значительное повышение качества жизни за счет увеличения продолжительности здорового состояния. Брайан считает, что будущее человечества будет определяться сочетанием человеческого и искусственного интеллектов (HI + AI).

Основал фонд ОS для инвестиций в пользу предпринимателей, совершающих открытия в области геномики, синтетической биологии, ИИ, точной автоматизации и разработки новых материалов. Основанная Брайаном в 2007 г. компания Braintree в 2013-м была приобретена компанией PayPal. Написал детскую книгу Code 7.

Мартин Форд: Как появилась идея компании Kernel и какой вы видите ее в долгосрочной перспективе?

Брайан Джонсон: Обычно компании учреждаются для создания некоего продукта. Я же начал с постановки задачи. Хотелось разработать более совершенные инструменты нейронного кодирования, лечения болезней, прояснения механизмов интеллекта и расширения когнитивных способностей. В настоящее время можно сделать снимок мозга с помощью магнитно-резонансной томографии, прикрепить на кожу электроды и снять электроэнцефалограмму, имплантировать человеку электрод для борьбы с болезнью. Но наш мозг по-прежнему практически недоступен. Я инвестировал 100 млн долларов в компанию Kernel, чтобы выяснить, какие инструменты мы можем разработать. Поиски идут уже два года, и мы намеренно нигде не освещаем результаты. Наша команда из 30 человек прилагает все усилия, чтобы приблизить очередной прорыв. К сожалению, подробнее рассказать о нашей работе я пока не могу.