Что будет хорошо, а что плохо? Чем будут расплачиваться за произведенные машинами товары и услуги те люди, которые не смогут найти работу, пусть даже эти товары будут значительно дешевле? Ознаменует ли это конец потребления как основной логики капитализма? Увидим ли мы начало конца известного нам сегодня оплачиваемого труда?

Политики, государственные должностные лица и члены правительства должны уделять больше внимания изменениям, связанным с автоматизацией, и эффективнее управлять этим стремительным процессом. Идейное лидерство станет главным требованием к представителям власти, и любой государственный служащий, несерьезно относящийся к необходимости быть «проводником будущего», серьезно ослабит свою позицию.

В ближайшем будущем главной причиной отдать голос за определенного кандидата станет его способность управляться с настоящим, то есть тем, как дела обстоят сейчас, и в то же время его исчерпывающее понимание того, что нам предстоит в дальнейшем.

Автоматизация в квадрате – пять составляющих

Я часто думаю о том, что автоматизация имеет следующие составляющие, которые изо дня в день ухудшаются.

1. Автоматизация.

2. Слепое подчинение.

3. Отречение.

4. Побочные эффекты.

5. Утрата контроля.

Автоматизация как неминуемый исход

Я считаю, что автоматизация в экспоненциальных масштабах обязательно случится хотя бы потому, что она становится наконец возможной и способствует снижению расходов, что является главной задачей практически всех компаний и организаций. Через пять-десять лет мы увидим новый тип производства, высокоэффективный и низкозатратный. Только подумайте, что в этом случае произойдет с работой и уровнем занятости. Можно ли допустить, чтобы эффективность взяла верх над человечностью? Следует ли нам все автоматизировать только потому, что мы знаем, как это сделать? Должны ли компании, которые инвестируют в замену своих работников технологиями, платить какие-нибудь налоги на автоматизацию, которые бы затем распределялись между теми, кто потерял работу? Уже скоро мы должны будем дать ответы на эти вопросы.

Давайте признаем тот факт, что совместными усилиями разных мегасдвигов, в первую очередь оцифровывания, виртуализации, интеллектуализации (глубокого обучения и ИИ), и роста популярности мобильных устройств каждый день открываются все новые возможности для автоматизации. В начале 2016-го, когда AlphaGo смог преодолеть код игры, он не был запрограммирован на то, чтобы играть в го, – он сам, с чистого листа, этому научился78.

Это уже не узкоспециализированные заранее запрограммированные ИИ-компьютеры, способные опередить человека в сферах, основанных на математике и логике, таких как игра в шахматы. Это ИИ, который способен имитировать работу человеческого мозга с помощью нейронных сетей, самостоятельно обучаться и программировать себя. Представьте себе, как такой ИИ сталкивается с очень сложными и объемными задачами и проблемами и затем выдает нам решение и способ автоматизации этих задач, таким образом превосходя нас практически в любой деятельности, связанной со знаниями.

Стюарт Армстронг[52] пишет в своей книге «Smarter than us: the Rise of Machine Intelligence»:

Рассмотрим, к примеру, область социального обеспечения: выплаты больничных, пенсий, пособий по безработице, которые, вполне возможно, понадобятся миллионам людей. Вскоре после внедрения ИИ в эту сферу мы сможем располагать умным суперкомпьютером, который будет сам решать, по каким правилам следует определять размер социальных выплат, кому и как их нужно выплачивать. Это, безусловно, приведет к экономии государственного бюджета, но в то же время, вероятно, дегуманизирует население.

Продвинутый ИИ на территории США сможет определить порядок выплат с помощью сбора и анализа данных за последние 80 лет (с момента внедрения системы социального обеспечения в 1935 году)80. Он также сможет использовать и другую доступную информацию для расширения своих знаний по этой теме: медицинские карты, профили пользователей в социальных сетях, юридические нормы и основания, городские и правительственные базы данных. В результате может возникнуть динамично развивающийся ИИ-специалист по социальному обеспечению (так называемый СоцОбесБот), способный выполнять сложные операции, которого будут обслуживать только десять-двадцать процентов работников, занятых в этой сфере на сегодняшний момент. Скажите «прощай» эмпатии и сопереживанию: теперь машины будут определять размер ваших пенсий, а с ними не поспоришь.

Я часто задумываюсь о том, что случится, если эти предположения сначала постепенно, а затем резко начнут осуществляться на практике. Вероятнее всего, нас ждет то же, что сейчас происходит с избыточными социальными медиа. Если мы на каждом шагу сталкиваемся с автоматизацией, то вскоре начинаем плясать под ее дудку, признавая превосходство системы и ее воли над нами – неохотно, но с улыбкой на лице. Нам не слишком нравится то, что происходит, но мы не хотим устраивать сцен.

Затем мы и вовсе начнем отказываться от своих притязаний, как говорится, «отречемся от трона» и передадим всю власть системе. Уже скоро мы перестанем быть главным звеном в цепи – на наше место придет машина и станет новым центром притяжения, превратив нас в свое содержание. Таким образом, инструмент прогресса станет целью, а мы будем работать на то, чтобы система была довольна. Изначально «система» будет состоять из всех людей (узлов в сети), подключенных к глобальной электронной экосистеме.

Facebook сейчас представляет собой главный пример отречения: вместо того чтобы активно участвовать в политической жизни, что нам кажется неудобным и обременительным, мы просто ставим отметку «нравится» на сайте, делимся видео с друзьями, подписываем петиции или в лучшем случае жертвуем пару долларов или евро на проекты Kickstarter[53] и Causes.com[54].