Общим контраргументом является то, что мы можем позаботиться об этических критериях роботов-убийц — например, позволив им убивать только солдат противника. Но если нас беспокоит применение этого запрета на практике, то какой вариант более вероятен: добиться от врага 100-процентного соблюдения требований этичности в использовании автономного оружия или добиться от него, чтобы такое оружие просто не производилось? Можно ли с уверенностью утверждать, что хорошо подготовленные солдаты цивилизованной армии так плохо соблюдают этические правила ведения войны, что роботы легко превзойдут их в этом, и что в то же самое время государства-изгои, диктаторы и террористические группы настолько привержены правилам ведения войны, что никогда не станут применять роботов в нарушение этих правил?

Кибервойны

У военного применения искусственного интеллекта есть еще один аспект: он может позволить вам атаковать врага даже без создания какого-либо специального оружия, путем кибервойны. Некоторое представление о том, что нам может принести будущее, дает червь Stuxnet, созданный, по мнению многих, по поручению правительств США и Израиля: он инфицировал высокоскоростные центрифуги ядерной программы Ирана, в результате чего они разогнались до такой скорости, что разорвались. Чем более автоматизированным становится общество в целом и чем более мощным становится атакующий искусственный интеллект, тем более разрушительными последствиями может быть чревата кибервойна. Если вы можете взломать и обрушить системы управления беспилотных автомобилей вашего противника, его беспилотных самолетов, атомных реакторов, промышленных роботов, систем связи, платежных и энергосетей, то тем самым вы эффективно выведете из строя его экономику и разрушите его оборону. А если вы к тому же сможете взломать некоторые из его систем оружия, так это даже и еще лучше.

В начале этой главы был дан обзор возможностей, возникающих в связи с развитием искусственного интеллекта на благо человечества, — но это только при условии, что мы сумеем сделать его надежным и недоступным для взлома. И хотя искусственный интеллект может быть использован для того, чтобы сделать AI-системы еще более надежными, тем самым укрепляя оборону в случае кибервойны, точно так же его можно использовать и на стороне нападающих. Преобладание оборонительных задач в развитии искусственного интеллекта должно стать одним из наиболее важных требований в краткосрочной перспективе, иначе вся та могучая технология, которая нами создается, может обернуться против нас!

До сих пор речь в этой главе шла главным образом о том, как искусственный интеллект повлияет на нас как на потребителей, предоставляя нам качественно новые виды товаров и услуг по доступным ценам. Но как он может повлиять на нас как на работников, преобразуя рынок труда? Если мы сможем придумать, как достичь процветания путем автоматизации, не оставив при этом людей без заработков и без цели в жизни, то у нас есть все шансы на фантастическое будущее без забот и с беспрецедентными возможностями для всех, кто захочет ими воспользоваться. Мало кто из людей дольше и глубже размышлял об этом, чем экономист Эрик Бриньоулфссон, один из моих коллег по MIT. Хотя он всегда ухожен и безукоризненно одет, его исландское происхождение не дает о себе забыть, и я иногда не могу удержаться, представляя себе, как он подстригает свою непослушную рыжую бороду и укорачивает гриву, чтобы не слишком выделяться среди прочих в нашей бизнес-школе. Но он, конечно, не мог постричь и свои непослушные идеи и для своей полной оптимизма картины будущего рынка труда придумал название «цифровых Афин». В древности граждане Афин вели жизнь полную досуга и могли наслаждаться демократией, искусством и играми, что обычно объясняют наличием у них рабов, выполнявших всю необходимую работу. Но почему бы не заменить рабов роботами с искусственным интеллектом, не создать цифровую утопию, где каждый может наслаждаться жизнью? Экономика, поддерживаемая искусственным интеллектом, в изображении Эрика не только избавит людей от стрессов и нудной работы и в изобилии снабдит нас всем тем, о чем мы мечтаем сегодня, но она также откроет нам мир замечательных новых продуктов и услуг, о каких сегодняшние потребители даже еще и не подозревают.

Технология и неравенство

Мы можем попасть оттуда, где находимся сейчас, в «цифровые Афины» Эрика, если почасовая зарплата каждого из нас будет расти год от года, так что все, кто хочет иметь больше досуга, смогут постепенно сокращать время работы не в ущерб росту уровня жизни. На рис. 3.5 показано, что именно это и произошло в Соединенных Штатах между второй мировой войной и серединой 70-х годов: хотя неравенство доходов сохранялось, общий размер пирога рос так быстро, что почти всем доставались все бóльшие и бóльшие куски. Но затем, и Эрик признаёт это первым, кое-что изменилось: рис. 3.5 показывает, что хотя и экономика в целом, и средний доход на душу населения продолжали расти, этот рост происходит исключительно за счет наиболее богатого 1 % населения, а для беднейших 90 % рост доходов прекращается. Увеличивающееся неравенство становится еще более очевидным, если смотреть не на доход, а на уровень благосостояния (достаток). Для беднейших 90 % домохозяйств США этот показатель в 2012 году составил $85 000 — столько же, сколько двадцать пять лет назад, в то время как богатейший 1 % стал с учетом инфляции почти вдвое богаче, достигнув $14 миллионов. Различия еще заметнее в международном масштабе: в 2013 году совокупное богатство беднейшей половины населения мира (более 3,6 миллиарда человек) равно богатству восьмерых самых богатых человек — статистика помогает высветить и уровень бедности беднейших, и уровень богатства богатейших. На нашей конференции 2015 года в Пуэрто-Рико Эрик говорил собравшимся специалистам по искусственному интеллекту, что он уверен: прогресс в области искусственного интеллекта и автоматизации будет способствовать росту экономического пирога. Но нет экономического закона, гарантирующего выигрыш для всех или хотя бы для большинства людей.

Рис. 3.5

Рост американской экономики в прошлом столетии и распределение доходов среди различных групп населения. До 1970-х рост благосостояния в них проходил синхронно. После этого рост приходился в основном на 1 % самых богатых людей страны, в то время как улучшение благосостояния 90 % практически ничтожно. В приводимых данных учтена инфляция, и доходы вычислены в долларах 2017 года.

Хотя существует общее согласие среди экономистов, что неравенство растет, они расходятся во взглядах на причины этого роста, и между ними не прекращаются очень содержательные споры о том, сохранится ли эта тенденция. Представители левой части политического спектра часто утверждают, что основной причиной являются глобализация и особенности экономической политики, такие как снижение налогов для богатых. Однако Эрик Бриньоулфссон и работающий вместе с ним в MIT Эндрю Макафи утверждают, что основной причиной является нечто совсем другое — технологии. А именно: они утверждают, что цифровые технологии рождают неравенство тремя различными способами.