В журнале AI Magazine в статье «Вопрос ответственности» (1987) Митчелл Уолдроп писал:

Эта проблема еще более актуальна сейчас, когда мы входим в экспоненциальную эпоху, потому что теперь нам надо проанализировать, какими должны быть этические рамки для всех экспоненциальных технологий, включая ИИ, геоинженерию, когнитивные вычисления и, конечно, редактирование генома человека. Это включает в себя как рамки, которые люди-изобретатели или сборщики (не)преднамеренно программируют в машинах, так и те, которым машины сами могут обучиться и развить с течением времени.

Если суперкомпьютер Watson фирмы IBM действительно умеет думать, как он будет разбираться с критериями и ценностями людей, непонятными, двоякими или используемыми по умолчанию даже для людей? Будет ли этика ИИ предварительно запрограммирована или развита и адаптирована с использованием глубинных обучающих нейронных сетей, которые стремятся имитировать методы приобретения мозгом новой информации? А если они самообучаемые, как люди смогут проверять, контролировать и корректировать их? Как эти системы будут удовлетворять множеству культурных изменений в этике людей?

Более теоретические вопросы об ИИ и глубинном обучении, такие как техническая осуществимость управления такими новыми интеллектами, на данный момент не рассматриваются автором в этой книге, но в любом случае очевидно, что перед нами стоит огромная задача. Действительно, в самом ближайшем будущем роль специалиста по цифровой этике вполне может стать одной из самых востребованных профессий наряду со специалистом по анализу и обработке данных. Может быть, это хорошая работа и для ваших детей?..

И никакой религии?..

Нам также очень важно помнить, что этика и религия – это не одно и то же. В вышедшей в 2011 году крайне важной книге «Больше чем религия» Далай-лама заметил, что у всех есть этика, и только у некоторых людей есть религия, а затем призвал установить глобальную светскую этику, чтобы управлять нашими самыми элементарными решениями, например, касающимися автономных систем вооружения, способных убивать без контроля человека194. Этика и религия – существенно разные понятия, и мы должны помнить об этом различии при обсуждении злободневных тем, таких как редактирование генома человека или небиологические дополнения людей. Я предлагаю по возможности избегать вовлечения религии в эти споры, во-первых, потому что религиозные взгляды не настолько единообразны и повсеместны, как самые элементарные этические нормы и ценности, и во-вторых, потому что в них порой отражается слишком много пережитков прошлого.

Артур Чарльз Кларк обратил особое внимание на это критическое различие в своем интервью 1999 года:

Создание Глобального совета по вопросам цифровой этики. Какое определение мы дадим этике, подходящее для экспоненциальной эпохи?

Я хотел бы затронуть две основные проблемы. Во-первых, попытаться определить, какой глобально приемлемый ряд этических норм может подойти для экспоненциальной цифровой эпохи. И, во-вторых, попробовать понять, что нам нужно сделать, чтобы убедиться, что благополучие людей и этические проблемы в действительности остаются на повестке дня в мировом масштабе и не поглощены машинным мышлением.

Нам необходимо определить ряд реалистичных этических норм, которые подходят для цифрового века: достаточно открытые, чтобы не тормозить прогресс или препятствовать инновациям, но достаточно сильные, чтобы защитить нашу человечность. Нормы, которые станут компасом, а не картой для будущего, в котором более мощные технологии сначала расширят свои возможности, затем дополнят их, а затем станут еще сильнее угрожать человечеству.

С этой целью я предлагаю создать Глобальный совет по вопросам цифровой этики, которому будет поручено определить, какими должны быть основные правила и основополагающие и универсальные ценности для совершенно нового, полностью цифрового общества.

По большому счету, в настоящее время мы согласны с тем, что ни у каких государств-изгоев не должно быть ядерного потенциала, даже если они могут себе это позволить. Это по-настоящему сложная ситуация, сопряженная с ложью и обманом, – и она постоянно меняется, но необходимое понимание остается, и оно усиливается, потому что альтернатива сопряжена с немыслимым риском.

Точно так же нам нужно согласовать ограничения и независимый контроль масштабов, развития искусственного интеллекта, редактирования генома и других экспоненциальных технологий будущего.

Чтобы начать этот разговор, я использовал прием подмены тезиса. Я знаю, что это сложная задача, и, конечно же, это может быть даже самонадеянно. Но нам нужно начать, даже если я местами и окажусь неправ!

Чтобы поддержать Глобальный совет по вопросам цифровой этики, нам также необходимо разработать простой манифест по цифровой этике, своего рода глобальный договор по экспоненциальным правам человека во все более цифровом мире. Такой манифест и последующий договор могли бы служить руководством для тех компаний, которые изобретают, производят и продают эти технологии (и их директоров), и привлекать их к ответственности. Это действительно важно, потому что последствия экспоненциальных технологических изменений для человеческого существования больше не могут рассматриваться лишь как внешние факторы, как побочный эффект, который не имеет непосредственного отношения к тем, кто его вызывает.

Глобальный совет по вопросам цифровой этики, как мне кажется, должен состоять из хорошо информированных и глубоко мыслящих людей из гражданского общества, академических кругов, правительства, бизнеса и технологий, а также независимых мыслителей, писателей, художников и идейных вдохновителей. (Я и сам был бы рад присоединиться!) Он должен быть глобальным с самого начала и, со временем Совету могут потребоваться аналогичные или даже более широкие полномочия по сравнению с теми, которыми обладают сегодня специальные эксперты ООН по правам человека, а именно – право контролировать, консультировать и публично сообщать о проблемах и нарушениях196.

Как и в случае с устойчивым развитием, этика часто является последним, чисто номинальным пунктом на повестке дня, который могут исключить всякий раз, когда происходит что-то более срочное. Это принципиально ошибочный и очень опасный подход к охране нашего будущего. Так как мы вступаем в эпоху, когда важнейшие события будут происходить поначалу постепенно, а потом ситуация будет развиваться стремительно, у нас просто не будет взлетно-посадочной полосы, чтобы обдумать этические вопросы в тот момент, когда они уже будут безвозвратно раздавлены думающими машинами. Принцип «поживем – увидим» просто-напросто означает отречение человечества от престола.