Я оптимистично считаю, что как вид мы сохранимся. Технологии несут нам больше выгоды, чем вреда, но при этом не нужно глубоко копать, чтобы увидеть, какие разрушения принес мирный XX в. При том что в целом мир стал намного лучше. Например, за последние 200 лет на 95 % снизился уровень бедности, а общемировой уровень грамотности, который не дотягивал до 10 %, теперь превышает 90 %.

Но люди имеют тенденцию судить о ситуации по тому, насколько часто они слышат плохие новости. Был проведен опрос, в котором приняли участие 24 тысячи человек из 26 стран. Им предлагали оценить, как изменился уровень бедности в мире за последние 20 лет. Только 1 % опрошенных сказали, что этот показатель упал почти вдвое, то есть дали корректный ответ. По мнению 87 %, ситуация ухудшается. Такая предрасположенность к негативному взгляду на мир обусловлена эволюционно – десять тысяч лет назад легкий шелест листьев мог означать приближение хищника.

М. Ф.: Но ведь есть разница между реальными и экзистенциальными рисками.

Р. К.: Мы неплохо справляемся с экзистенциальными рисками, которые несут в себе информационные технологии. Вспомните, как 40 лет назад группа ученых предвидела и перспективу появления новой биотехнологии, и ее опасность. Была проведена первая Асиломарская конференция. Этические стандарты и стратегии регулярно обновляются. И это работает. Число людей, пострадавших от преднамеренного или случайного злоупотребления биотехнологией, близко к нулю.

Этим мы обязаны законодательству. Но опасности существуют. Возникают все более мощные технологии, например такие, как методы CRISPR, позволяющие редактировать геном, значит, нужно разрабатывать новые стандарты.

Около полутора лет назад на очередной Асиломарской конференции впервые был поднят вопрос о принципах работы с ИИ и был разработан набор этических стандартов. На мой взгляд, он нуждается в доработке, причем безотлагательно.

М. Ф.: Сейчас многих волнует проблема контроля, или выравнивания. Беспокоит ли вас появление у суперинтеллекта целей, не соответствующих целям человека?

Р. К.: Проблема в том, что люди далеко не всегда могут согласовать свои собственные цели. Мы все время создаем инструменты для расширения своих возможностей. Технологии нужны, чтобы преодолевать наложенные на нас ограничения. Этой цели будет служить и ИИ. Никакого противостояния, которое так любят показывать в антиутопических фильмах, не возникнет. Произойдет слияние. Точнее, уже происходит. Телефон пока не является частью нашего тела или мозга, но мы уже не выходим без него из дома.

Я пошел учиться в MIT, потому что уже в 1965 г. там были компьютеры. Для доступа к компьютеру приходилось ехать на велосипеде через весь кампус и показывать удостоверение личности. Всего полвека спустя мы стали носить компьютеры в карманах.

Можно проследить, как рост демократизации вел к улучшению взаимопонимания. Два столетия назад в мире была только одна демократическая страна. Столетие назад – полдюжины. Сейчас демократических принципов придерживается 123 из 192 признанных стран, то есть 64 %. Можно сказать, что демократия стала стандартом. В истории человечества это самое мирное время и улучшение всех аспектов жизни. И все благодаря технологиям, которые становятся более интеллектуальными и глубже интегрируются в нашу жизнь.

В современных конфликтах сила каждой враждующей группы увеличена с помощью технологий. И конфликты всегда будут, хотя я надеюсь, что более совершенные способы коммуникации увеличат человеческую способность к эмпатии, заложенную биологически. Благодаря технологиям мы больше узнаем о посторонних людях, начав сопереживать им, как близким.

М. Ф.: Какое влияние, с вашей точки зрения, ИИ окажет на экономику и на рынок труда? Ждет ли нас новая промышленная революция?

Р. К.: Давайте вспомним, как прошла последняя промышленная революция. Двести лет назад бизнес-модель гильдии ткачей перестала существовать из-за появления прядильных и ткацких станков. Они предсказывали, что появятся и другие машины и большинство людей потеряет работу, трудоустроены будут только избранные. Частично этот прогноз сбылся, так как действительно часть рабочих мест исчезла. Но занятость не снизилась, а выросла, так как увеличилось благосостояние общества.

Если бы в 1900 г., когда 38 % населения работало на фермах, а 25 % – на фабриках, опытный футуролог дал бы прогноз, что через 115 лет на фермах будет работать 2 % населения, а на фабриках – 9 %, люди бы сильно испугались. Ведь такой прогноз означал бы, что их потомки останутся без работы.

Ведь футуролог не смог бы рассказать, что это будут за новые рабочие места, потому что их еще не изобрели. При этом, если в 1900 г. существовало 24 млн рабочих мест, сейчас их 142 млн, то есть в процентах от населения занятость выросла с 31 до 44 %. Если взять в качестве основы для сравнения доллар с постоянной покупательной способностью, получится, что в среднем по статистике за работу в час сейчас платят в 11 раз больше, чем в 1900 г. Рабочий год при этом сократился с 3000 до 1800 часов. А предлагаемые варианты рабочих мест стали намного интереснее. Я думаю, что следующая промышленная революция пройдет примерно по такому же сценарию.

М. Ф.: Вы уверены? Согласно статистике автоматизация, которая станет возможной благодаря успехам машинного обучения, может уничтожить более половины существующих рабочих мест. Потому что выполняемые операции настолько рутинны и предсказуемы, что не требуют ИИ человеческого уровня. Но ожидать, что люди успешно пройдут переподготовку с водителя такси на инженера-робототехника, не приходится.

Р. К.: Ваш прогноз базируется на модели «люди против машин». Но люди уже сделались умнее и получили способность выполнять высокоуровневые работы. Пока только с помощью внешних устройств, но со временем все эти вещи, делающие нас умнее, будут подключаться напрямую к мозгу.

Кроме того, постоянно развивается сфера образования. Если в 1870 г. в США было 68 000 студентов, то сейчас их 15 млн. Возьмите всех, кто работает в этой сфере, то есть преподавателей и обслуживающий персонал, и получите примерно 20 % рабочей силы, причем постоянно появляются новые вещи, которые кто-то должен делать. Лет шесть назад экономики мобильных приложений не существовало.

Еще необходимо учитывать грядущее изобилие. На ежегодном заседании Международного валютного фонда его директор-распорядитель Кристин Лагард спросила меня: «Чем обусловлен экономический рост? Информационные технологии невозможно есть, надевать и заселять».

Я ответил, что они смогут удовлетворить все типы номинально физиологических потребностей. Появится вертикальное сельское хозяйство в контролируемых ИИ зданиях с выращенными гидропонным способом фруктами и овощами. Появится клонированная мышечная ткань, которая при низких затратах обеспечит людей высококачественной пищей без химикатов и убийства животных. Уровень дефляции в сфере информационных технологий составляет 50 %; цена на вычисления, коммуникации и генетическое секвенирование ежегодно уменьшается вдвое. И эта дефляция будет направлена на создание традиционных и необходимых продуктов.