прочности воспитания и “воспитуемости” — индивидуальных свойств коры головного мозга и подкорки. Все эти качества будут задаваться и искусственному разуму, с тем чтобы они служили некоторой гарантией “лояльного” поведения в отношении людей (вспомним «Законы роботехники» А. Азимова!). Правда, гарантии относительные, и они тем меньше, чем выше уровень самоорганизации. В то же время поведение искусственной личности, даже если она будет умна, не обещает быть всегда “разумным”. Вероятность ошибок остается, поскольку сохранится ограниченность познавательных возможностей и субъективность суждений. Так возникает опасность не только ошибочного, но и злонамеренного поведения разумных машин в отношении людей. Опасность велика, если это касается машин, принимающих участие в управлении обществом даже в сфере чистой экономики. Смогут ли люди ограничить развитие систем искусственного разума или, по крайней мере, держать их под контролем? Боюсь, что ни то, ни другое невозможно» (Амосов 1969, с. 152–153).

Почему люди опасаются сильного ИИ? Потому что среди самих людей нет общепринятых норм, они не знают, как поведет себя другой человек. Тем более они боятся искусственного интеллекта, который обладает большими способностями, и также пренебрегает нормами. Может быть, супернормы смогут дать решение для проблемы сильного ИИ? Сильный ИИ, следующий супернормам, останется частью человеческого общества. Это дает подсказку к созданию сильного ИИ. Все нынешние попытки сконструировать ИИ сводятся к созданию только одного блока, основанного на смыслах существования, на эффективности и пользе. Однако если мы хотим создать «искусственного человека», то мы должны заложить в ИИ не один, а три блока: не только множество смыслов существования, но и множество смыслов общения, и множество смыслов самовыражения, то есть эффективность, справедливость и свободу. Эти три множества не могут быть упорядочены между собой.

Социальность делает человека субъектом, а не машиной. Сильный ИИ нельзя создать как изолированного субъекта, это должно быть искусственное общество, часть которого должна будет взять на себя функцию «фермента» или «воспитателя». Социальное мышление — это эмоциональное мышление. Думается, что для создания сильного ИИ нужно «общество» искусственных интеллектов и их эмоциональная связь. «Эмоции — это другой способ мыслить» (Minsky 2006, p. 7). Субъект появляется тогда, когда он осознает свое отличие от другого и свое единство с другим, имеет образ самого себя, самоподобен. Чтобы стать субъектом, машина должна иметь в себе «модель другого» и «модель самой себя».

«Подводя итог, я считаю, что программный пакет, который может дать мыслящему устройству преимущества свободы воли, будет состоять как минимум из трех частей: причинной модели мира; причинной модели собственного программного обеспечения, пусть и поверхностной; и памяти, которая записывает, как намерения в уме устройства соответствуют событиям во внешнем мире» (Pearl and Mackenzie 2018, p. 367).

Причинная модель, или знание, в исходном пункте является средством деятельности, а в конечном пункте — самим субъектом, то есть (со)знанием. Искусственный интеллект станет субъектом, быть может, тогда, когда (1) научится адаптироваться, обретет потребности и эмоции; (2) научится творить, обретет идеалы; (3) научится воспроизводить себе подобных. После этого система машин больше не будет, наверное, удовлетворять потребности людей, а начнет удовлетворять собственные потребности. Но это будет уже совсем другая история.

Глава 9. Обычное обращение: порядок и свобода

1. Политика обычных рынков

(Само)конструирование рынков

Разделение труда, знаний и порядка входит в следующий этап своей эволюции. При простом товарном производстве ремесленник, производя добавленную стоимость, создавал и самостоятельный продукт, который он мог продать на рынке. В ходе коммерческой революции разделение смыслов привело к развитому товарному производству и наемному труду. Появились виды деятельности, которые не создавали и не создают готовый продукт для продажи на рынке, а производят полуфабрикаты для использования внутри предприятия. Предпринимательская контрреволюция приводит к обычному товарному производству, при котором распространяются виды деятельности, которые вновь создают самостоятельный продукт для продажи на рынке, и не являются частичной деятельностью внутри предприятия. Дело в том, что обычные рынки соединяют все индивидуальные рабочие места в экономике в единую распределенную сеть. Так что, находясь внутри любого предприятия, можно предлагать свой продукт любому другому предприятию. Если же продукт не нужен никому, рабочее место просто закрывается.

Независимо от того, как мы смотрим на процесс — входят ли рынки внутрь предприятий, или это предприятия распадаются на товарные рынки — в результате персонализации индивидуальные рабочие места превращаются в самостоятельные предприятия — посессии, а самодеятельность приходит на смену наемному труду. Персонализация приводит к отмиранию рынка труда. Вместе с рынком труда постепенно отмирает и рынок капитала, реальный капитал соединяется с работником. Именно работник, его интеллектуальные и аффективные силы, становится несущим элементом основного капитала. Средства производства перестают быть силой, противостоящей индивидам, и становятся элементом их отношений.

«Производство сегодня становится все более социальным в двух смыслах. С одной стороны, производственные процессы являются социальными; то есть, производство осуществляется не изолированно, а в сетях кооперации. Более того, эти правила и привычки того, как сотрудничать, как продуктивно относиться друг к другу, как правило, больше не навязываются сверху, а генерируются снизу, в социальных отношениях между производителями. С другой стороны, результаты производства также имеют тенденцию быть социальными. Вместо того, чтобы воспринимать материальные или нематериальные товары как конечную точку производства, нам нужно понимать их как производство (часто посредством товаров) социальных отношений и, в конечном счете, самой человеческой жизни» (Hardt and Negri 2017, p. 147).

Отмирание рынка труда и рынка капитала сопровождается развитием товарных рынков. При рассмотрении перспектив персонализации возникает вопрос, не приведет ли проникновение товарного рынка внутрь предприятий к «сверханархии», при которой посессоры в погоне за предпринимательским доходом мечутся между занятиями под действием сиюминутного ажиотажа. Ведь эта проблема характерна и для капитализма. «Анархическая система конкуренции вызывает безмерное расточение общественных средств производства и рабочих сил, а также множество функций, в настоящее время неизбежных, но по существу дела излишних» (Маркс и Энгельс 1954–1981, т. 23, с. 539). При капитализме проблема рыночной анархии отчасти решается путем администрирования:

«На ступени своего наивысшего развития господство функционирует как администрирование, и в сверхразвитых странах массового потребления администрируемая жизнь становится стандартом благополучной жизни для целого, так что даже противоположности объединяются для ее защиты» (Маркузе 1994, с. 335).

Маркс в этом плане в особенности подчеркивал роль администрации внутри предприятия: «Анархия общественного и деспотия мануфактурного разделения труда взаимно обусловливают друг друга в обществе с капиталистическим способом производства» (Маркс и Энгельс 1954–1981, т. 23, с. 369). Однако персонализация разлагает и предприятие, превращая его в партнерство самостоятельных предпринимателей. Насколько устойчива такая конструкция? Шумпетер