с глубокими свёрточными сетями раз и навсегда сделали творческие задачи, связанные со всем, что напоминает изображения, тривиальными. Ограничения реального мира в виде нехватки данных или вычислительных мощностей остаются серьёзными препятствиями на пути эффективного машинного творчества. Например, существующие базы данных расшифрованных последовательностей ДНК людей в сумме составляют немногим больше миллиона записей. Медицинская и биологическая информация нередко разбросана по сотням и тысячам относительно небольших баз данных, доступ исследователей к которым ограничен действующими законами и коммерческой тайной. С расшифрованными последовательностями ДНК других организмов дела обстоят не многим лучше — стоимость секвенирования пока что достаточно высока, и не все лаборатории стремятся предоставить открытый доступ к собранным ими данным. Если бы эта информация была столь же доступной, как фотографии или тексты, это могло бы помочь в создании генеративных моделей для разработки новых лекарств, генной терапии, генно-модифицированных организмов (для медицинских и других целей) и так далее. Но люди, к большому сожалению исследователей, выкладывают в социальные сети фотографии своих котиков, а не результаты секвенирования ДНК. Большие модели, подобные GPT-3, требуют при обучении не только гигантских объёмов данных, но и выдающихся вычислительных затрат, которые в наши дни по карману лишь крупным корпорациям. Кроме того, эти модели требуют больших объёмов вычислений не только на этапе обучения, но и на этапе использования.

Конечно, все эти трудности преодолимы, хотя всякий раз, когда развитие технологии предполагает необходимость дать ответ на существующие вызовы, почти всегда возникает хор пессимистов, спешащих заявить: «Этот барьер не преодолеть!» В действительности история науки показывает, что в большинстве случаев непреодолимые препятствия существуют только в головах людей. В исследовательских лабораториях уже сейчас создаются новые модели машинного обучения, в том числе более вычислительно эффективные и менее требовательные к объёмам используемых данных. Продолжается и прогресс в области вычислительной техники, в том числе и в создании специализированных устройств для задач машинного обучения. Стремясь поддержать исследователей, государства во всём мире ищут способы упростить доступ к данным для учёных. Продолжается развитие краудсорсинговых платформ. Всё это значит, что прогресс в области машинного решения творческих задач будет продолжаться и уже в ближайшем будущем нас ждёт множество новых результатов и удивительных открытий.

7 Легенда о големе: ИИ, захватывающий мир

Существует предание, что однажды три человека спустились в царство тьмы, один сошёл с ума, другой ослеп, и только третий, Рабби-бен-Акиба, вернулся невредимым и рассказал, что он встретил самого себя.

Густав Майринк. Голем

Тема опасности ИИ красной нитью проходит через многие популярные статьи, посвящённые достижениям науки и технологий в этой области. Один из надёжных способов привлечь внимание человека — напугать его, поэтому для деятелей искусства, журналистов и блогеров тема опасности ИИ вряд ли в ближайшее время потеряет актуальность. Конечно, можно было бы попробовать просто отмахнуться от этой проблемы как от назойливой мухи, признав, что просто невозможно вычерпать океан чепухи, высказанной на эту тему в публичном пространстве. Наверное, примерно так же Архимед пытался отмахнуться от римского легионера, мешавшего ему решать важную математическую задачу. Если верить этой легенде, такое отношение к опасностям не сулит ничего хорошего. Кроме того, всегда существует риск выплеснуть с грязной водой ребёнка. Применение продвинутых технологий нередко сопряжено со вполне реальными, а не выдуманными рисками. Изменение производственного уклада в истории человечества нередко приводило к социальным катаклизмам. Войны, в ходе которых находили применение многие новинки науки и техники, приводили к массовому истреблению людей. Выходит, страхи, порождаемые мыслями об угрозах, таящихся в новых технологиях, не всегда были такими уж беспочвенными? Давайте попробуем разобраться в этом вопросе.

7.1 Насколько опасен ИИ?

7.1.1 История человеческих страхов перед машинами

Интересно, что страхи людей перед «умными машинами» возникли задолго до того, как человечеству удалось приблизиться к возможности их создания.

Знаменитая легенда о големе имеет истоки в раннем иудаизме. В Талмуде (трактат «Сангедрин» [‏סנהדרין‏‎], от греч. συνέδριον — собрание) создание голема [גולם] является одним из этапов создания человека: «В первый час собрал Всевышний прах со всей Земли. Во второй час — сделал голема (грубую форму). В третий — оформил части тела. В четвёртый — вдохнул в него душу…» и так далее[3048].

Создание голема (как прислуги для работы по дому) в XI в. приписывают еврейскому поэту и философу Шломо бен Иехуде ибн Гвиролю, а в конце XII – начале XIII в. в трактате «Секреты таинств» (רזייא סודי, Sodei Razaya)[3049], написанном раввином Элеазаром бен Иудой бен Калонимосом из Вормса, приводится самое раннее письменное руководство по созданию голема.

Но наиболее известна история (впервые встречающаяся в анонимном манускрипте первой половины XVII в.) о том, как рабби Элияху бен Аарон Иегуда из Хелма создал голема. Начертанное на лбу глиняного существа слово «эмет» (אמת, в переводе с иврита — «истина») оживляло голема, а для «отключения» нужно было стереть первую букву алеф — тогда «эмет» превращалось в «мет» (מת, что означает «мёртвый»)[3050], [3051]. Созданный рабби голем всё увеличивался и увеличивался в размерах, и тогда создатель испугался, что голем может уничтожить весь мир, и стер букву алеф, но не успел вовремя отскочить в сторону. Голем обрушился на рабби и убил его (согласно другому варианту легенды лишь травмировал, оставив на лице шрам).

По другой версии, для оживления голема использовался тетраграмматон (четырёхбуквенное непроизносимое имя бога), который нужно было написать на листе бумаги и либо поместить в рот голема, либо приложить ко лбу, тем самым оживив его. Именно поэтому рабби Элияху и получил почётное имя Ба’ал-Шем («владеющий именем», «шем» [‏השם‏‎] значит «имя», это одно из слов, используемое для замены тетраграмматона). Это «канонический» способ оживления голема — им же пользовался и ибн Гвироль.

Также создание голема приписывается мыслителю и мистику Йехуде Лёву бен Бецалелю из Праги и другим авторитетным раввинам[3052].

Голем был не единственным огромным боевым человекоподобным роботом в человеческой мифологии. За тысячи лет до него воображение древних греков будоражили сказания о гигантском бронзовом роботе Талосе, искусственной женщине Пандоре и их создателе боге Гефесте.

«Наша способность представлять искусственный интеллект восходит к древним временам, — говорит историк античной науки Адриенна Майор. — Задолго до того, как технический прогресс сделал возможными самодвижущиеся устройства, идеи о создании искусственной жизни и роботов были исследованы в древних мифах».

Впервые темы искусственного интеллекта, роботов и самодвижущихся объектов появляются в работах древнегреческих