при таких условиях? Второй вариант, более перспективный, – дать возможность машине самой учиться. К этому и сводится идея «обучения без учителя», то есть техника обучения, при которой алгоритм получает минимальные инструкции и выводит свои собственные правила на основе актуальной среды. Так, в MIT я видел программу, которая учится говорить «как ребенок», выслушивая истории, связанные с определенными картинками[70]. Точно так же знаменитая программа AlphaZero, разработанная компанией DeepMind, учится играть в шахматы и в го, попросту играя против самой себя, безо всяких внешних инструкций. Компьютеру, следовательно, больше не нужно усваивать формальные правила, поскольку он может, опираясь на методы статистического вывода, выработать определенную форму правильной интуиции. Но, как отмечает Дэвид Отор, даже лучшему алгоритму всегда будет сложно определять цель: например, что стул сделан, чтобы сидеть, тарелка – чтобы есть, а шахматная доска – чтобы играть. Его способность к имитации будет создавать убедительную иллюзию лишь до тех пор, пока внезапное изменение в среде не заставит его подать мясо по-бургундски на стуле. AlphaZero сможет побить Каспарова, но вряд ли ему удастся поднести яйцо под майонезом к столику номер пять.

Итак, угроза автоматизации окажется тем более далекой, чем больше задача будет требовать, как говорит Дэвид Отор, «гибкости, суждения и здравого смысла». Вот тут-то снова и появляется здравый смысл, который дал нам ключ к интеллекту! И это неслучайно. Вспомним, что здравый смысл, то есть функция, тесно связанная с нашим биологическим гомеостазом, позволяет схватывать значение окружающего мира, смешение понятий и цели. Он по самой своей сути недоступен для вычислительных способностей, имеющихся у ИИ. Тем самым он ставит окончательный предел сверхинтеллекту как продукту прогресса автоматизации. Никакой ИИ не сможет понять сущность того, что такое ресторан, – в том смысле, в каком понимание предполагает ментальное воссоздание сенсорного опыта и в то же время способность к концептуализации.

Тест, позволяющий узнать, нависла ли угроза над вашей собственной работой, определяется, следовательно, не столько «повторяемостью», сколько здравым смыслом. Официант выполняет работу, во многом состоящую из повторяющихся операций (он работает в одни и те же часы, в одном месте, принимает одни и те же заказы). Однако в ней постоянно задействуется здравый смысл: ему нужно импровизировать и выносить бесчисленное множество суждений, для которых требуется едва ли не весь объем человеческого опыта, начиная со способности залезть в голову клиента и заканчивая оценкой настроения шеф-повара. И наоборот, бухгалтер может заниматься эмоциональным делом, работая в различных секторах и участвуя в самых разных встречах, – но если в итоге он должен упорядочивать цифры в соответствии со строгими инструкциями, абстрагируясь от собственных чувств, то робот, возможно, справится с этой задачей лучше.

Вооружившись этим ценным критерием, я смог отправиться к рентгенологам, чтобы получить ответ на вопрос моего кузена. И разве можно найти лучшего консультанта по этому вопросу, чем доктор Кертис Ланглоц, директор Центра ИИ по рентгенологии в университете Стэнфорда?

Стэнфордский университет, находящийся в географическом центре Кремниевой долины, в получасе от Сан-Франциско и 15 минутах от Пало-Альто, является и центром мировых инноваций. Новичку очень странно ехать вдоль разбросанных в огромном естественном ландшафте зданий из камня цвета охры, увенчанных красной черепицей. Аллеи, окаймленные пальмами, обширные газоны сложной формы, островки калифорнийских дубов – и везде полно скульптур Родена. Студенты живут в гигантском парке, представляем нечто среднее между полем для гольфа и ботаническим садом. Словно бы технологии нужно было сделать здесь вдох, чтобы потом отправиться в городской водоворот стартапов и исследовательских центров. Стэнфорд был построен в стиле mission revival конца XIX века, который прямо вдохновлялся испанскими миссиями. Жарким калифорнийским летом можно подумать, что ты попал в вестерн. Так и ждешь, что из-за арки выскочат мексиканские бандиты в сомбреро и с патронташами через плечо.

Мираж быстро рассеивается: в небольшой зал в Стэнфордском госпитале входит доктор Ланглоц в очках с черепаховой оправой и клетчатой рубашке. Он профессор рентгенологии (специалист по рентгенографии грудной клетки), а также защитил диссертацию по компьютерным наукам на тему «Модель решения при эвристическом планировании». Значительную часть своей карьеры он еще с 1980‐х годов посвятил разработке информационных программ интерпретирования медицинских изображений. Если этот человек не сможет ответить на мои вопросы, то кто тогда?

Я пытаюсь не заблудиться в дебрях медицинской и информационной терминологии. По словам Ланглоца, способности ИИ постоянно растут: сначала это были чисто символические модели (такие как дерево решений, которое управляет каждым шагом машины), а теперь, в последнее десятилетие, это заново открытые нейронные сети. Доктор Ланглоц сотрудничал с самыми известными исследователями в области ИИ, такими как Фей-Фей Ли и Эндрю Нг. В частности, он создал алгоритм для автоматической оценки возраста костей на основе миллионов размеченных снимков, которые хранятся на серверах. Эти инновации, как и любое другое медицинское средство, должен одобрить американский регулятор[71].

Диагностика не всегда надежна, однако сама эта неопределенность должна выражаться во вполне точных категориях, чтобы рентгенолог мог взвесить разные вероятности. Рентгенографический комментарий должен быть как можно менее литературным и исключать все смутные термины, иначе он не сможет достичь максимальной объективности (кажется, особое неприятие доктор Ланглоц питает к прилагательным). Конечно, техники машинного обучения мешают врачу-клиницисту оценивать конкретные основания, оправдывающие тот или иной диагноз, в силу отсутствия полной «объяснимости» рассуждения, выполненного ИИ, – но не является ли медицина как таковая эмпирической наукой?

Тем не менее доктор Ланглоц нисколько не боится, что его заменят собственные создания. Это старая мечта… Еще на заре МРТ, сложных изображений, получаемых путем магнитного резонанса, инженеры хотели обойтись без рентгенологов и напрямую передавать результаты врачам. Но они быстро осознали необходимость человеческой интерпретации. В случае ИИ разработка и усовершенствование алгоритмов требуют сегодня и будут требовать в будущем значительной работы по маркировке изображений: так, доктор Ланглоц вывозит своих студентов в «бут-кампы маркировки», где медицинские базы данных анализируются по цепочке человеческими глазами и умами, прежде чем их передадут машине. Как мы уже выяснили в предыдущей главе на примере стартапа медицинских визуализаций VoxelCloud, традиционные формы восприятия и знания остаются необходимыми на первых этапах, даже если они становятся невидимы, как только алгоритм «созреет». Эта работа по маркировке никогда не закончится: она продолжается и утверждается по мере того, как развивается сама наука. Чтобы заменить рентгенологов, нужно… выпускать рентгенологов!

На более фундаментальном уровне рентгенолог остается нужным для того, чтобы, как сказал доктор Ланглоц, «синтезировать» полученную информацию. Компьютер лучше человека способен искать иголку в стоге сена или же раковую клетку среди миллионов здоровых, однако человек все равно будет лучше реагировать на конкретные обстоятельства, выявлять неожиданные болезни, отбрасывать ненужные данные или придумывать оригинальные гипотезы. Медицинские алгоритмы остаются специализированными и не схватывают