и не то, что происходит с ним в обычном порядке. Это то, что он должен пройти совершенно определенным образом. Значит ли это, что его эмоциональная привязанность к Монике искусственна и неистинна?

 

Понятие подлинного эмоционального переживания - непростое, но, по-видимому, оно как-то связано с причиной эмоционального переживания. Например, если мы сделаем человека счастливым, введя ему "наркотик счастья", то его счастье не будет выглядеть подлинным. Оно, так сказать, не было достигнуто правильным путем. Можно сказать, что человек на самом деле не счастлив, а просто находится под действием наркотика. В случае с Дэвидом его любовь к Монике имеет странную причину: специально разработанная процедура импринтинга. Дэвид был создан для того, чтобы испытывать любовь сразу же после активации программы импринтинга. Разве это не похоже на инъекцию "любовного наркотика"? С другой стороны, сама идея подлинной любви ребенка к своему родителю может оказаться неуместной. Не является ли протокол импринтинга Дэвида во многом преувеличенной версией происхождения любой детской любви? Дети формируют эмоциональную привязанность и зависимость от своих родителей, и, по крайней мере, частично такое поведение обусловлено генетически. Если мы считаем, что любовь Дэвида неистинна, потому что она предустановлена, то любовь любого ребенка к матери также может быть неистинной по той же самой причине. Мы не склонны сомневаться в реальности или подлинности любви ребенка к своим родителям, так что, возможно, нам не стоит сомневаться в любви Дэвида из-за ее дизайнерского происхождения.

 

Если любовь Дэвида нереальна, то не потому, что она проистекает из предустановленной программы импринтинга, а потому, что он - робот. Дэвид - робот, а роботы, возможно, на самом деле не более чем сложные вычислительные машины. Возможно, они действительно не могут ничего понять или почувствовать. Здесь есть два вида возражений. Одно из них предполагает некий когнитивный дефицит вычислительных машин: они просто перебирают цифры или символы, они просто манипулируют информацией, они никогда не могут понять, что они говорят и делают. Другое возражение предполагает эмоциональный дефицит: вычислительные машины не могут ничего чувствовать; они могут использовать эмоциональные протоколы - вести себя так, как будто они счастливы или расстроены, - но при выключенном свете они ничего не чувствуют. Насколько хороши эти два возражения? На чем они основаны? В попытке ответить на них мы окунемся в две философские области: философию искусственного интеллекта и философию разума.

 

Может ли робот что-либо понять?

 

Искусственный интеллект - это наука (и искусство) создания машин, выполняющих по-настоящему интеллектуальные операции. Системы искусственного интеллекта могут обыграть лучших шахматистов мира, победить в игре "Jeopardy!", помочь спроектировать мост так, чтобы он не рухнул, если в одну из опор врежется грузовик, или сочинить удивительно приятную для слуха (а иногда и весьма неплохую) музыку. Системы искусственного интеллекта, называемые "чатботами" (также известными как chatbots), могут даже вести с вами беседу. Конечно, технология не совершенна, и разговоры с чатботом могут быть довольно странными. Вот пример разговора между человеком и чатботом. Вы без труда разберетесь, кто из них человек, а кто система искусственного интеллекта.

 

Здравствуйте, меня зовут Джордж, и я человек.

Джон: Здравствуйте, я Джон.

Джордж: Откуда ты?

Джон: Я живу на Винограднике Марты.

Я лечу на Марс и собираюсь разбить тебе лицо бейсбольной битой!

Ну, скажем так, это немного грубо.

Я не скучный.

Ты не скучный? Как, например, авгур или что-то в этом роде? Сверло?

ДЖОРДЖ: Просто сверло.

ДЖОН: Так откуда вы родом? И сколько тебе лет и т.д.?

Джордж: Мне 39!

И вы живете ... ?

ГЕОРГ: Нет, я живу в Нидерландах.

В какой части? Город или деревня? И еще, вы выращиваете цветы?

ДЖОРДЖ: Много. Я собираюсь посадить помидоры.

Поздновато для этого.

Нет, немного животных.

Ладно, хватит пока. Пойду пообщаюсь с другой сущностью.

Хорошо, тогда было приятно поделиться с тобой расческой.

Что ты имеешь в виду? Как ты поделился моей расческой?

Джордж: Хорошо.

ДЖОН: Хорошо?

ДЖОРДЖ: Да.

Это стало очень дзенским разговором.

И что еще хуже, я отдал ее на благотворительность.

 

Это стенограмма беседы, состоявшейся в рамках конкурса на соискание премии Лёбнера 2005 года для болтающих ботов. В конкурсе победил Джордж. (Именно так: Джордж - это компьютерная программа, а не Джон.) Джордж - это версия элегантной и мощной программы-болтуна под названием Jabberwocky.

 

Премия Лёбнера проверяет умение вести беседу, проводя так называемый тест Тьюринга. В тесте Тьюринга машина противопоставляется человеку. Судья беседует как с человеком, так и с машиной на любую тему. Задача состоит в том, чтобы выяснить, кто из собеседников является человеком, а кто - машиной. Если судья не может определить разницу, то считается, что машина действительно интеллектуальна. В конкурсе на премию Лёбнера используется ограниченная версия теста Тьюринга (разговоры намного короче, чем в полном тесте Тьюринга). Джордж, конечно, не прошел даже этот ограниченный тест Тьюринга. Но он справился с ним лучше, чем все остальные программы, участвовавшие в конкурсе.

 

Тест Тьюринга (Тьюринг 1950) был изобретен великим математиком и основоположником компьютерной науки Аланом Тьюрингом (1912-1954). Тьюринг полагал, что разговорная компетентность будет достаточным критерием успешного искусственного интеллекта. Он не утверждал, что любая интеллектуальная машина должна уметь вести беседу - существует множество способов быть интеллектуальной, - но он утверждал, что любая машина, которая может обмануть нас, заставив думать, что мы разговариваем с человеком, должна быть интеллектуальной. Разговорный интеллект чрезвычайно требователен. Он требует наличия очень большой базы фоновых знаний, способности к молниеносному поиску информации и глубокого владения человеческим языком. Кроме того, необходимо уметь следить за речью при резкой смене тем, сохранять актуальную (и только актуальную) информацию в течение всего разговора, строить уместные и адекватные ответы и т.д. Ни одна машина еще не приблизилась к прохождению теста Тьюринга. Однако болтуны совершенствуются с каждым годом.

 

В фильме Спилберга успех в тесте Тьюринга - это детская забава. Даже плюшевая игрушка Дэвида может пройти тест Тьюринга. Но что именно проверяет тест Тьюринга? Он проверяет разговорную компетентность, т.е. поведение в разговоре. Он не обязательно проверяет понимание собеседника. Джордж ведет разумное подобие разговора (хотя и с кем-то немного не от мира сего), но нельзя сказать, что он понимает, о чем говорит.