Риски, создаваемые искусственным интеллектом, особенно риски катастрофы и глобальной катастрофы, должны стать предметом работы по планированию и предупреждению, соизмеримой с предполагаемым ущербом… Системы с искусственным интеллектом, сконструированные так, чтобы раз за разом воспроизводиться и совершенствоваться таким путем, который может вызвать взрывное усиление качества или количества, должны контролироваться строгими правилами безопасности9.

Рекомендации экспертов относительно будущего изучения ИИ вряд ли успокоят тех, кто рос на «Терминаторе» и «Матрице». Не забывайте, что самые передовые разработки в области ИИ и роботов по большей части ведутся в военных целях. Даже если машины не захотят нас истребить, они могут низвести нас до положения рабов или морских свинок.

«Создание полностью искусственного интеллекта может стать предвестием гибели человечества», — предупреждал профессор Стивен Хокинг10.

«Если искусственный общий интеллект, превосходящий человеческий, создадут без должной предосторожности, практически несомненно, что человеческая раса исчезнет очень скоро», — соглашается с ним Майкл Вассар, бывший президент Института изучения машинного интеллекта11. Безусловно, нужно сделать все, чтобы не допустить этой катастрофы. Основатель компаний Tesla и SpaceX Илон Маск назвал искусственный интеллект «главной угрозой нашему существованию». «С искусственным интеллектом мы вызываем демона», — заявил он12. Маск убежден, что ИИ следует регулировать на национальном или международном уровне. Но он идет и дальше. Пугающие предвидения об искусственном интеллекте — один из стимулов его космической программы: согласно журналу Vanity Fair, он хочет колонизировать Марс, чтобы у нас «было куда рвануть, если ИИ взбунтуется и нападет на людей»13.

Кроме бегства от машин, которое вскоре может стать невозможным, Маск предлагает еще один способ выживания — объединить с ними силы. Он уже приступает к проекту киборга («обладающего своего рода синтезом биологического и машинного интеллектов»), создав компанию Neuralink. В ней будут разрабатывать «нейронное кружево» из «мельчайших мозговых электродов, через которые мы однажды сможем выгружать и загружать мысли»14. Маск тратит немало времени, рискует колоссальными деньгами и репутацией, стараясь не допустить, чтобы нас вытеснили или истребили машины.

У основателя Microsoft Билла Гейтса есть альтернативное предложение по обузданию всеобщей роботизации — налог на роботов. «Нужно стремиться увеличить базу налогообложения и при этом замедлить распространение роботов», — сказал он15. Другой путь к тому же результату — уменьшить подоходный налог или субсидировать доплаты низкооплачиваемым работникам, чтобы они могли составить конкуренцию машинам, а у компаний было бы меньше причин вкладываться в автоматизацию. Гейтс понимает, что налогами машины не обуздать навсегда, но так у людей, возможно, появится время адаптироваться и развить навыки, необходимые для выживания в мире искусственного интеллекта.

Мы должны требовать от правительств регулировать и облагать налогами любые компании, развивающие ИИ или создающие новые поколения роботов. Более того, стоит, возможно, вообще запретить проклятых роботов или переходить к прямому действию, если правительства не поторопятся принять защищающие нас законы. Нужно что-то делать, иначе не спастись.

Чепуха и страшилки! Чересчур мрачное ви́дение будущего. Да, машины заберут многие из наших самых однообразных, тупых и скучных занятий. Что в этом дурного? Неужели кто-то вправду хочет весь день сидеть, уткнувшись носом в экселевские таблицы или по ночам латать дыры на дорогах? Неужели крутить баранку грузовика, переворачивать котлеты в бургерной или разглядывать срезы больных тканей — достойная самореализация для наших сложно устроенных сознаний? Искусственный интеллект позволит нам заняться более интересными вещами, выбирать творческие профессии. Когда старые профессии исчезнут, появятся новые — в тех областях, которых мы сегодня не можем даже представить. Ни промышленная революция, ни компьютерный век не принесли поголовной безработицы. Сегодня нам нужны программисты и веб-дизайнеры, ученые-иммунотерапевты, специалисты по кибербезопасности и моделированию данных — все это профессии, созданные высокими технологиями. Будущее порадует всех, кто готов применять новые технологии для развития своих способностей.

Более того, роботы и искусственный интеллект могут оказаться нашим спасением. Многие из стоящих перед нами трудноразрешимых проблем (например, глобальное потепление или стремительно растущие расходы на заботу о престарелых) помогут решить машины. Роботы, способные отслеживать состояние организма, поддерживать или аккуратно переносить человека или даже вести нескучную беседу, способны улучшить жизнь миллионов стариков, позволить им гораздо дольше жить независимо. Бригады автономных роботов могли бы мониторить и ремонтировать наши рассыпающиеся дороги и здания. Стаи дронов предложат какое-то геоинженерное решение, которое поможет регулировать температуру земной поверхности.

К чему бояться машин, что умнее нас, если мы сами программируем их на удовлетворение своих нужд и сами говорим им, что нам требуется? Может быть, интеллект, превосходящий наш, сумеет урегулировать арабо-израильский конфликт, предотвратит ядерную войну или прекратит страдания. Машины разумнее нас могут столь же добросердечно нас опекать, как мы своих обожаемых кошек и собак.

И значит, давайте всеми силами ускорять создание ИИ. Давайте объявим налоговые каникулы для компаний — разработчиков роботов и будем раздавать гранты университетским кафедрам, исследующим машинное обучение. Давайте отменим ограничения на использование беспилотного транспорта и вступим в золотой век научно-технического прогресса.

Как будет? Те, кто пророчит беду, — это активисты или дезинформаторы? Мы точно знаем, что роботы наступают и что они радикально изменят мир. Но каким именно образом — этого мы не понимаем. И притом нам скоро придется выбирать, как реагировать на это небывалое и удивительное явление. Даже бездействие — разновидность реакции, у которой свои последствия. Как мы поймем, что делать? Единственная возможность выбрать образ действий — это спрогнозировать будущее.

Или положиться на чужой прогноз.

Защита от будущего

Будущее надвигается все быстрее и быстрее — спасибо ускоряющему ход техническому прогрессу, глобальной коммуникации и политическим переменам. Мир становится все изменчивее, все зыбче, и предсказывать, что случится завтра, как никогда сложно. Вместе с тем необходимость планировать, вкладывать средства и быть готовым ко всему никогда не была столь острой. Прогнозирование — важнейший каждодневный навык.

Компании, где хотят быть готовыми к неизвестному будущему, прибегают к сценарному планированию, чтобы понять, смогут ли они справиться с теми или иными ситуациями. В крупных банках теперь обязательно инсценируют катастрофические финансовые события, чтобы проверить на прочность балансовые отчеты. Учреждения типа больниц или армий моделируют разные варианты будущего с целью убедиться, что располагают ресурсами и планами действий на все возможные случаи. Все эти организации, в сущности, воображают конкурентные варианты будущего, чтобы отладить решения, принимаемые сегодня.