Сёрл предлагает нам представить, что он заперт в комнате и вручную моделирует работу огромной программы ИИ, якобы понимающей китайский язык. Он оговаривается, что программа проходит тест Тьюринга, пресекая все попытки человека отличить ее от сущности, понимающей китайский на самом деле. Не знающий китайского Сёрл заперт в комнате и манипулирует цепочками символов в соответствии с инструкцией, (очевидно) не приобретая в процессе способности понимать китайский. Больше в комнате нет ничего, что понимало бы китайский язык. (Комната пуста – в ней находятся только Сёрл и “клочки бумаги”, на которых написаны его инструкции. В точности следуя им, он “вручную моделирует” работу гигантской программы.) Сёрл не понимает китайский, но и (динь!) Сёрл с клочками бумаги тоже не понимает китайский. Следовательно, ничто в китайской комнате не понимает китайский, хотя программа и может вести беседу на уровне, достаточном, чтобы обмануть носителей китайского языка. Подобно компьютеру, Сёрл различает китайские иероглифы исключительно по их форме: и для него, и для компьютера они представляют собой лишь различные бессмысленные “загогулины”, поэтому Сёрл в китайской комнате – это лишь реализация соответствующей компьютерной программы. Эта программа выполняет свою задачу, не понимая китайский, работая хоть на кремниевых чипах, хоть на Сёрле.

Так просто и так убедительно! Разве с этим мысленным экспериментом может быть хоть что-то не так? Увы, да. Когда Сёрл представил его в Беркли, специалисты по компьютерным наукам в ответ привели довод, который Сёрл назвал “аргументом о системе” (Беркли):

Ответ Сёрла на этот аргумент весьма показателен:

Невероятным Сёрлу показалось не что иное, как фундаментальный прорыв Тьюринга, приведший к появлению идеи компьютера с хранимой в памяти программой! Вся компетентность – в программном обеспечении. Не забывайте, что регистровая машина из главы 24 совсем не понимает арифметику, но регистровая машина в совокупности с программным обеспечением прекрасно справляется с арифметическими действиями. Центральный блок обработки данных вашего ноутбука ничего не знает о шахматах, но, запустив шахматную программу, сможет обыграть вас – и то же самое верно в отношении остальных его великолепных способностей. Описываемая Сёрлом идеология служит стержнем компьютерной науки. Ее основательность демонстрируется повсеместно. Чтобы воспроизвести человеческую компетентность, а следовательно (в итоге), и понимание, необходимо поставить виртуальные машины на виртуальные машины на виртуальных машинах, поскольку сила в системе, а не в аппаратном обеспечении. “Странной логике” Дарвина вторит странная логика Тьюринга (Dennett 2013e): если раньше (до Тьюринга) мы полагали, что человеческая компетентность должна проистекать из понимания (таинственного источника разума), то теперь считаем само понимание эффектом, который достигается (снизу вверх) посредством наслоения компетенций друг на друга.

Вся суть в деталях. Сёрл не говорит читателю, на каком уровне он осуществляет ручное моделирование гигантской программы ИИ. Вот как он сам описывает, что происходит, когда он исполняет программу:

Сёрл противопоставляет это “сопоставление” разных “партий символов” происходящему в тот момент, когда на входе он получает английское предложение или английскую историю и отвечает на родном английском.

Какой контраст! Но давайте разберемся, о чем Сёрл не говорит. Мы знаем, что он получает свои “наборы правил” (инструкции) на английском, но каковы они? Что-то вроде “прибавьте содержимое регистра 39021192 к содержимому регистра 215845085” (машинного кода) или вроде “определите постоянную длину очереди и задайте ей значение 100” (исходного кода)? Сидит ли Сёрл на низшем уровне, в бешеном темпе осуществляя арифметические действия (триллионы операций в секунду), или же он следует исходному коду программы, реализуемому на много уровней выше? А если он следует исходному коду, может ли он читать комментарии? Лучше бы нет, поскольку официально они не считаются частью программы, но могут предоставить ему множество намеков о том, что происходит (“Здесь осуществляется грамматический разбор предложения, выделяются подлежащие, сказуемые, обстоятельства и определения, в результате чего предложение признается вопросительным, повествовательным, побудительным или восклицательным”, а миллиард операций спустя “обнаруживается игра слов, осуществляется переключение на остроумие…”, после чего подробно описываются миллиарды операций, в ходе которых осознаются отсылки, оцениваются разные варианты ответов [прямо как разные варианты шахматных ходов] и наконец генерируется ответ). Если программа, работу которой вручную моделирует Сёрл, способна вести впечатляющую беседу на китайском, ей нужно сверяться с огромными базами данных, содержащими не только “наборы китайских иероглифов”, как выражается сам Сёрл, но и обиходные знания, доступные носителям китайского, и это лишь минимум необходимой ей информации. Получает ли Сёрл, моделирующий работу программы, намеки на всю эту многослойную когнитивную деятельность, или же она представляется ему сплошной арифметикой?

Подумайте, как Сёрл обработал бы следующий вопрос на английском: