Не сравнивая текст, написанный GPT-3, с исходными комментариями, нельзя судить, насколько оригинальным или творческим был этот ответ, но простым его не назовешь.

Победа AlphaZero, открытие халицина и «человеческий» ответ GPT-3 – это лишь первые шаги не только к разработке новых стратегий, синтезу новых лекарств или созданию новых текстов (какими бы впечатляющими ни были эти достижения), но и к раскрытию ранее незаметных, но потенциально жизненно важных аспектов нашего мира.

Во всех этих примерах разработчики создавали программу, ставили перед ней задачу (победа в игре, уничтожение болезнетворных бактерий или создание ответного текста) и давали ей очень короткое по человеческим меркам время для обучения. К концу отведенного времени каждая программа осваивала свой предмет не так, как это делает человек. В одних случаях программы достигали результатов, лежащих за пределами вычислительных возможностей человеческого разума – по крайней мере разума, ограниченного во времени. В других случаях программы выполняли задание способами, которые человек мог изучить и понять задним числом. А порой люди и по сей день не знают, как программы добились своих целей.

* * *

Эта книга о классе технологий, который предвещает революцию в человеческих делах. Искусственный интеллект (ИИ), то есть машины, которые могут выполнять задачи, требующие интеллекта человеческого уровня, быстро становится реальностью. Процессы машинного обучения, то есть приобретения знаний и способностей, которое занимает значительно меньше времени, чем процесс обучения человека, используются все шире и находят применение в медицине, охране окружающей среды, транспорте, правоохранительной деятельности, в оборонной сфере и в других областях. Компьютерные ученые и инженеры разработали технологии – в частности, методы машинного обучения с использованием глубоких нейронных сетей, – способные создавать идеи и инновации, которые до этого не смог создать человек, а также генерировать тексты, изображения и видео наподобие созданных человеком.

Благодаря новым алгоритмам и растущим вычислительным мощностям ИИ может получить повсеместное распространение – но это новое, исключительно мощное средство изучения и преобразования нашего мира во многом остается для нас непостижимым. ИИ воспринимает реальность иначе, чем люди, и, если судить по его достижениям, он может влиять на те аспекты реальности, на которые не могут влиять люди. Возможно, ИИ поможет нам познать суть вещей – к этому тысячи лет стремились философы, богословы и ученые. Однако, как и любая технология, ИИ – это не только перспективы, но и последствия. Он может лечить болезни или способствовать просвещению – но с тем же успехом его можно использовать для обмана и угнетения людей.

Развитие ИИ неизбежно, но к чему оно приведет? Его появление имеет историческое и философское значение. Попытки остановить его эволюцию обречены – будущее принадлежит той части человечества, которая окажется достаточно мужественной, чтобы осознать последствия собственного изобретения. Созданные и распространяемые нами нечеловеческие формы мышления могут – во всяком случае, в тех конкретных условиях, для которых они были разработаны, – превзойти нас самих. Но функции ИИ сложны и противоречивы. ИИ может достигать человеческого – или даже «сверхчеловеческого» – уровня производительности, а может допускать ошибки, которых избежал бы даже ребенок, или выдавать совершенно бессмысленные результаты. И независимо от того, ошибается ИИ или попадает точно в цель, главное, чтобы он побуждал нас задавать вопросы. Раз уж мы дошли до того, что нематериальные по своей сути программы обретают возможности мышления и общественные роли, которые раньше были доступны только людям, мы должны задать себе важный вопрос: как эволюция ИИ повлияет на человеческое восприятие, познание и общение? Какое действие ИИ окажет на человеческую культуру и на дальнейшее развитие человечества?

* * *

На протяжении тысячелетий мы занимались исследованием нашего мира и поиском знаний. Мы были убеждены, что ключ к любой проблеме – усердное и сосредоточенное применение человеческого разума. Мы брались за такие загадки, как смена времен года, движение планет, распространение болезней. Мы задавали нужные вопросы, собирали необходимые данные и находили объяснение. Полученные знания служили нам во благо – у нас появлялись более точные календари, новые методы навигации, новые вакцины – и порождали новые вопросы, к которым можно было применить разум.

Каким бы медленным и несовершенным ни был этот процесс, он изменил наш мир и укрепил нас в уверенности, что мы, как разумные существа, способны и дальше развиваться и противостоять вызовам этого мира. То, что нам оказывалось неподвластно, мы либо принимали как вызов для будущего применения разума, либо относили к категории божественного, недоступного нашему непосредственному пониманию.

Появление искусственного интеллекта заставляет нас задуматься о третьей категории неподвластного человеческому разуму – о форме мышления, которой люди не достигли или не могут достичь, исследующей неизвестные нам аспекты нашего мира, которые, возможно, не станут нам доступны непосредственно. Если самообучающийся компьютер разработал шахматную стратегию, которая никогда не приходила в голову ни одному человеку за всю тысячелетнюю историю игры, что именно – и каким образом – он открыл? Какой существенный аспект игры, доселе неизвестный человеческому разуму, он постиг? Когда программа, выполняя задачу, поставленную разработчиками, – исправляя ошибки кода или совершенствуя автопилоты для автомобилей, – создает и использует модель, непонятную ни одному человеку, продвигаемся ли мы к знанию? Или знание становится менее доступным?