содержанием ранее запрошенной веб-страницы A, поэтому обновляю свою модель твоего поведения и передаю ее в компанию, которая меня изготовила.]

Когда машина перестает просто вычислять функции, а начинает вместо этого фиксировать состояния, она может приступить к формулировке выводов о человеке на основании последовательностей запросов, ей задаваемых. Когда разные программы устанавливают корреляции между разными потоками запросов – скажем, сопоставляют поиск в интернете с сообщениями пользователя в социальных сетях, оплатой каких-то покупок или временем на просмотр конкретной рекламы, а также с местонахождением пользователя (благодаря смартфонам с поддержкой GPS), – тогда совокупность сведений, доступных многим программам, которые взаимодействуют друг с другом и с базами данных, оборачивается совершенно неожиданной утратой конфиденциальности. Громадный скачок в технологическом развитии множества компаний Западного побережья[70] объясняется тем, что они принялись монетизировать эти сведения без ведома пользователей, взаимодействующих с вычислительными платформами.

Винер, Тьюринг и фон Нейман не могли предвидеть, сколь сложными сделаются эти платформы, которыми люди охотно пользуются, не обращая внимания на юридическую абракадабру пользовательских соглашений и нисколько не подозревая, на что дают согласие; тем самым они добровольно отказываются от прав, которыми никогда бы не пренебрегли в общении один на один с другим человеком. Эти вычислительные платформы стали щитом, из-за которого отдельные корпорации бесчеловечно эксплуатируют людей. В ряде стран сами правительства поддерживают такие манипуляции, причем целью является не прибыль, а подавление инакомыслия.

Человечество угодило в любопытную ловушку: нас эксплуатируют компании, как ни парадоксально, предоставляющие услуги, которые нам нужны, и в то же время наша жизнь зависит от множества программных систем, уязвимых перед нападением. Вырваться из этой ловушки – вот наш долгосрочный план. Нам понадобятся технологии, законотворчество и, самое главное, моральное лидерство. Но последнее является, увы, наиболее серьезной проблемой.

Глава 7

Единство разума

Фрэнк Вильчек

профессор физики в Массачусетском технологическом институте, лауреат Нобелевской премии 2004 года по физике, автор книги «Красота физики. Постигая устройство природы».

Я познакомился с Фрэнком Вильчеком в 1980-х годах, когда он пригласил меня к себе домой в Принстон, чтобы кое-что обсудить. «Мой адрес – дом 112 по Мерсер-стрит, – написал он. – Ищите дом без подъездной дороги». Несколько часов спустя я сидел в старой гостиной Эйнштейна [71]и беседовал с будущим лауреатом Нобелевской премии по физике. Если Фрэнк и испытывал, подобно мне, благоговение перед историческим местом, по его виду догадаться об этом было невозможно. Он разве что скупо прокомментировал трудности с парковкой перед «домом без подъездной дороги».

В отличие от большинства физиков-теоретиков, Фрэнк давно проявляет большой интерес к ИИ, о чем свидетельствуют следующие три «наблюдения»:

1. Фрэнсис Крик рассуждал об «удивительной гипотезе»: сознание, также известное как разум, является развивающимся свойством материи, из чего, если данное утверждение истинно, следует, что «всякий интеллект есть машинный интеллект. От естественного искусственный интеллект отличается не сутью, а способом появления».

2. «Искусственный интеллект не является продуктом инопланетного вторжения. Это артефакт определенной стадии человеческой культуры, отражающий ценности этой культуры».

3. Поразительное утверждение Давида Юма «Разум есть и должен быть только рабом аффектов», высказанное в 1738 году, относилось, конечно, сугубо к человеческому разуму и человеческим аффектам. «Но логико-философская точка зрения Юма применима и к ИИ. Проще говоря, поведение определяют стимулы, а не абстрактная логика».

По мнению Вильчека, «главное в истории XX и XXI столетий то, что [по мере развития] вычислительной техники мы учимся все лучше и лучше рассчитывать последствия [фундаментальных] законов. Существует также обратная связь: когда лучше понимаешь материю, проще создавать такие компьютеры, которые ускоряют вычисления. Это своего рода восходящая спираль».

В очерке ниже Фрэнк утверждает, что человеческий разум на данный момент обладает преимуществом, однако наше будущее, не ограниченное ни Солнечной системой, ни, несомненно, нашей Галактикой, невозможно без содействия ИИ.

1. Простой ответ на спорные вопросы:

– может ли искусственный интеллект быть сознательным?

– может ли искусственный интеллект быть творческим?

– может ли искусственный интеллект быть злым?

Эти вопросы часто задаются сегодня в популярных медиа и научных дебатах. Но плоды дискуссий противоречат друг другу. Позвольте ответить на эти вопросы следующим образом.

Отталкиваясь от физиологической психологии, нейробиологии и физики, смело скажу, что меня сильно удивит, если мы не ответим «Да» на все три вопроса. Причина проста, но при этом весома: факты, накопленные в перечисленных областях, неоспоримо доказывают отсутствие принципиального различия между естественным и искусственным интеллектом.

В своей одноименной книге 1994 года знаменитый биолог Фрэнсис Крик выдвинул «удивительную гипотезу» о том, что разум возникает из материи. Он утверждает, что разум во всех своих проявлениях есть «не более чем поведение огромного скопления нервных клеток и связанных с ними молекул».

«Удивительная гипотеза» на самом деле является основой современной нейробиологии. Люди пытаются понять, как работает разум, изучая функционирование мозга, и пытаются понять, как функционирует мозг, изучая, как информация кодируется в электрических и химических сигналах, преобразуется физическими процессами и используется для управления поведением. В своих научных устремлениях они не учитывают экстрафизическое поведение. До сих пор в тысячах тщательно продуманных экспериментов эта стратегия никогда не подводила. Просто не возникало необходимости учитывать влияние сознания или творчества без привязки к деятельности мозга для объяснения наблюдаемых явлений из области психофизики или нейробиологии. Никто и никогда не сталкивался с силами разума, существующими отдельно от обыкновенных физических событий в биологических организмах. Разумеется, многого о мозге и разуме мы не понимаем, но «удивительная гипотеза» вполне правдоподобна.

Если мы выдвинемся за пределы нейробиологии и примем во внимание весь спектр научных экспериментов, доказательства покажутся еще более убедительными. В современной физике объектом интереса часто становятся чрезвычайно малые явления. Чтобы их исследовать, экспериментаторам приходится принимать серьезнейшие меры предосторожности, препятствующие возникновению «шума». Нередко оказывается необходимым создавать комплексную защиту от паразитных электрических и магнитных полей; компенсировать крошечные вибрации от микро-землетрясений или проезжающих мимо машин; работать при экстремально низких температурах и в вакууме и т. д. Но имеется примечательное исключение: никогда не было необходимости делать поправку на мысли людей поблизости (или, если уж на то пошло, людей в отдалении). Как кажется, никаких «мысленных волн», отдельных от известных физических процессов и способных влиять на физические события, не существует.

Этот вывод, если на него опираться, стирает различия между естественным и искусственным интеллектом. Из него вытекает, что, доведись нам дублировать или точно имитировать физические процессы в мозге – теоретически это возможно, – и соединить входы и выходы с органами чувств и мышцами, то мы сумеем воспроизвести в физическом артефакте наблюдаемые проявления естественного интеллекта. Мы не упустим ничего наблюдаемого. Как