В этой истории вышло так, что военные США в ходе эксперимента совершили ужасную ошибку: все фотографии с танками были сделаны утром, под чистым голубым небом. А на фотографиях, которые сделали во второй половине дня уже без танков, небо затянулось тучами. Исследователи поняли, что машина работала безупречно, только различать она научилась не наличие или отсутствие танков, а погоду.

Эта поучительная история, которую любят приводить в пример в литературе по машинному обучению(1), вероятно, апокрифическая, хотя наглядно показывает важную проблему, возникающую при работе с интеллектом и машинным обучением – мы понятия не имеем о том, что знает машина. История с танками иллюстрирует фундаментальное и все более значимое осознание, что, каким бы ни стал искусственный интеллект, он будет разительно отличаться от наших о нем представлений, а в конечном итоге окажется и вовсе непостижимым. Несмотря на сложнейшие системы вычисления и визуализации, мы ни на шаг не приблизились к пониманию того, как происходит машинное обучение, и нам остается только судить по результатам.

Первую нейронную сеть, с которой, вероятно, и началась история о танках, разработали для Управления военно-морских исследований США. Сеть, которую назвали перцептроном, была реализована, как и многие ранние компьютеры, в виде физического объекта, электронной машины с набором из 400 светочувствительных клеток, случайным образом подсоединенных переплетением проводов к переключателям-нейронам, которые при каждом прогоне меняли свою реакцию. Разработчик первой нейросети, психолог из Корнелла Фрэнк Розенблатт, активно выступал за развитие искусственного интеллекта. Когда в 1958 году публике представили первый нейрокомпьютер, перцептрон «Mark I», New York Times сообщила:

Военно-морской флот впервые показал сегодня образец будущего электронного компьютера, который, как ожидают создатели, сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование. Предполагается, что позднее перцептроны смогут узнавать людей, называть их имена и мгновенно переводить речь и письмо с одного языка на другой(2).

Перцептрон основан на принципе коннекционизма, согласно которому интеллект – это свойство, возникающее из-за связанности нейронов. Из этой идеи следует, что, искусственно создав подобие сложных связей в мозге, можно научить машину думать. В последующее десятилетие коннекционизм подвергался существенной критике со стороны символистов. Многочисленные исследователи видели в интеллекте продукт манипулирования символами, из чего следовало, что для осмысленных рассуждений необходимо некоторое знание мира. Дебаты между коннекционистами и символистами определили ход исследований в области искусственного интеллекта на следующие сорок лет, затормозили его развитие и привели к пресловутым «зимам искусственного интеллекта» – долгим периодам застоя, когда не хватало ни финансирования исследований, ни интереса к проблематике. По сути, между сторонами шел спор не столько о природе интеллекта, сколько о возможности его понять.

Одним из наиболее неожиданных сторонников раннего коннекционизма был Фридрих Хайек, наиболее известный сегодня как отец неолиберализма. Забытый на долгие годы, но недавно вновь набравший популярность среди австрийских нейробиологов, Хайек в 1952 году написал трактат «Сенсорный порядок: исследование основ теоретической психологии», в котором развил идеи, сформулированные им еще в 1920-х годах. Основная мысль Хайека заключается в том, что существует фундаментальное разделение между чувственным миром ума и реальностью, то есть «естественным» внешним миром. Поскольку чувственный мир ума каждого человека непостижим и уникален, задача науки, в том числе экономики, заключается в том, чтобы построить такую модель мира, при которой не нужно учитывать особенности отдельных людей.

Нетрудно увидеть параллель между идеей Хайека о неолиберальном миропорядке, когда беспристрастный и бесстрастный рынок действует независимо от человеческих предубеждений, и его приверженностью к коннекционистской модели мозга. Как отметили более поздние комментаторы, в модели сознания Хайека «знание рассредоточено и распределяется в коре головного мозга подобно знаниям людей на рынке»(3). Приведенный аргумент в пользу коннекционизма является индивидуалистическим, неолиберальным и напрямую перекликается со знаменитым утверждением из книги «Дорога к рабству» (1944) о том, что все формы коллективизма неумолимо ведут к тоталитаризму.

Сегодня коннекционистская модель искусственного интеллекта снова доминирует, и ее главные сторонники, подобно Хайеку, считают, что в мире существует естественный порядок, который возникает спонтанно, когда из производства знания исключена человеческая предвзятость. И снова мы видим, как коннекционисты повторяют аргументы своих единомышленников из 1950-х годов, хотя на этот раз их утверждения касаются не только нейронных сетей и находят более широкое применение в мире.

Научные достижения последнего десятилетия привели к возрождению нейронных сетей, а с ними – огромного интереса к искусственному интеллекту. Компания Google особенно оптимистично смотрит на прогресс искусственного интеллекта и открывающиеся в связи с этим возможности. Соучредитель Google Сергей Брин сказал следующее: «Нужно исходить из того, что когда-нибудь мы сможем создавать машины, которые будут рассуждать, думать и делать многое лучше, чем мы»(4). Главный исполнительный директор компании Сундар Пичаи любит говорить, что Google будущего будет «в первую очередь, искусственным интеллектом».

Google уже некоторое время инвестирует в искусственный интеллект. В 2011 году в компании впервые рассказали о своем проекте Google Brain, в рамках которого специально построенной нейронной Сети из тысячи компьютеров и 16 000 процессоров «скармливали» 10 миллионов изображений из видео на YouTube(5). Изображения не были снабжены какими-либо комментариями или метками, но Сеть научилась распознавать человеческие лица и кошачьи морды, даже не имея никакого представления о том, с чем имеет дело.

Распознавание изображений – базовая задача для проверки интеллектуальных систем, она не представляет сложности для таких компаний, как Google, которые занимаются созданием все более крупных сетей, состоящих из все более быстрых процессоров, и сбором все больших объемов данных из повседневной жизни пользователей сервиса. Например, Facebook с помощью аналогичной программы на основании четырех миллионов изображений пользователей сайта создал программу «DeepFace», которая может распознавать людей с 98-процентной точностью(6). (Это программное обеспечение в Европе незаконно.) А далее программу начинают использовать не только для распознавания, но и для прогнозирования.

В 2016 году была опубликована статья, наделавшая много шума. Сяолинь Ву и Си Чжан из Шанхайского университета Цзяо Тонг изучали способность автоматизированной системы распознавания лиц делать выводы о «преступной склонности» людей. Они обучили нейронную сеть на подборке из 1856 найденных в Интернете фотографий на документы и 730 предоставленных полицией снимках осужденных преступников. По результатам эксперимента исследователи заявили, что программа способна по лицам отличить тех, кто склонен к совершению преступлений(7).

Публикация взволновала многих, о ней писали в технологических блогах, международных газетах и научных журналах. Наиболее резкая критика заключалась в том, что Ву и Чжан пошли по следам Чезаре Ломброзо и Фрэнсиса Гальтона, печально известных сторонников физиогномики – распространенной в XIX веке науки о том, что по физиологии человека можно судить о его психологии, в том числе склонности к