Шрифт:
Интервал:
Закладка:
– Я хочу изучать нейронные сети, – сказал ему Гудфеллоу.
По иронии судьбы, в то время самое время, когда Гудфеллоу занимался нейронными сетями в Монреале, один из его прежних профессоров, Эндрю Ын, познакомившись с результатами исследований, которые продолжали поступать из Канады, решил сам заняться этим в своей лаборатории в Стэнфорде. Но он слыл чудаком и имел слишком мало влияния как в своем собственном университете, так и в более широком научном сообществе, не говоря уже о том, что у него не было никаких доказательств, которые позволили бы убедить окружающих в том, что нейронные сети стоят того, чтобы их исследовать. Где-то в этот период он выступил с докладом на семинаре в Бостоне и предсказал скорый подъем в исследованиях нейронных сетей. В середине его выступления профессор из Беркли Джитендра Малик, один из фактических лидеров сообщества разработчиков компьютерного зрения, встал и по примеру Мински заявил, что все это бессмыслица и что самодовольные заявления докладчика не имеют под собой абсолютно никаких оснований.
Примерно в это же самое время Хинтон представил доклад на конференцию NIPS, где он позже выставит на аукцион свою компанию. Эта конференция была задумана в конце 1980-х годов как возможность для ученых обсудить исследования всякого рода нейронных сетей, как биологических, так и искусственных. Но организаторы конференции отклонили статью Хинтона, потому что уже приняли одну работу по нейронным сетям и решили, что два доклада на эту тему было бы перебором. «Нейронный» было плохое слово даже для конференции, посвященной «нейронным системам обработки информации». К тому времени понятие «нейронные сети» упоминалось менее чем в 5 процентах всех опубликованных работ, относящихся к этой области знаний. Подавая статьи на конференции и в журналы, некоторые исследователи в надежде повысить свои шансы на успех, заменяли словосочетание «нейронная сеть» какими-то другими терминами, например «аппроксимация функций» или «нелинейная регрессия». Ян Лекун даже убрал слово «нейронный» из названия своего самого важного изобретения. «Сверточные нейронные сети» стали просто «сверточными сетями».
Тем не менее, статьи, которые сам Лекун считал бесспорно важными, отвергались научным сообществом, и, когда такое случалось, он вступал в жаркие споры, твердо отстаивая свою правоту. Кто-то видел в этом чрезмерную самоуверенность, кто-то, наоборот, воспринимал это как признак неуверенности и обиды за то, что его труды не находят признания у авторитетных ученых. Однажды Клеман Фарабе100, один из его аспирантов, построил нейронную сеть, которая могла анализировать видеозаписи и разделять разные виды объектов – отличать деревья от зданий, автомобили от людей. Это был шаг к компьютерному зрению для роботов и беспилотных автомобилей, наделявший их способностью выполнять свои задачи с меньшим количеством ошибок – по сравнению с другими технологиями – и делать это гораздо быстрее, но рецензенты на одной из ведущих конференций по компьютерному зрению безоговорочно отвергли статью, которую он написал об этом. Лекун ответил письмом на имя председателя конференции, в котором говорилось, что рецензии настолько нелепы, что он не знает, как написать опровержение, не оскорбив рецензентов. Председатель конференции выложил письмо в интернет на всеобщее обозрение, и, хотя имя Лекуна он удалил, было очевидно, кто автор этих слов.
Помимо Канады, нормально заниматься разработкой нейронных сетей можно было только в Европе или Японии. Одним из таких мест была лаборатория в Швейцарии, возглавляемая Юргеном Шмидхубером, энтузиастом искусственного интеллекта, который еще в детстве объяснял своему младшему брату, что человеческий мозг можно искусственно воссоздать с помощью медных проводов, а с пятнадцати лет мечтал101 построить машину, которая была бы умнее, чем он сам, – и потом уйти на покой. В 1980-е годы, будучи студентом, он изучал нейронные сети, а затем, по окончании аспирантуры, его амбиции пересеклись102 с амбициями итальянского производителя ликеров по имени Анджело Далле Молле. В конце десятилетия, сколотив состояние на продаже артишокового ликера, Далле Молле воздвиг лабораторию искусственного интеллекта103 в Швейцарии, на берегу озера Лугано, неподалеку от границы с Италией, исполненный намерения изменить мир к лучшему с помощью умных машин, которые могли бы справляться со всей работой, традиционно ложившейся на людские плечи. В скором времени Шмидхубер возглавил эту лабораторию.
Он выделялся высоким ростом – примерно метр девяносто, – стройным телосложением и квадратной челюстью. Ходил всегда в шляпе или в кепке и носил пиджак в стиле Неру. «Легко представить, как он гладит белого кота», – говорит о нем один из его бывших учеников, имея в виду Эрнста Блофельда, злодея из ранних фильмов о Джеймсе Бонде, который тоже одевался в стиле Неру. Внешность Шмидхубера каким-то образом гармонировала со швейцарской лабораторией, которая тоже выглядела как будто из фильма о Бонде – эдакая крепость на берегу европейского озера, в окружении пальм. В стенах этого созданного Далле Моле научно-исследовательского института Шмидхубер и один из его студентов разработали нейронную сеть с кратковременной памятью, как они сами ее описали, способную «запоминать» данные, которые она недавно анализировала, благодаря чему эффективность анализа на каждом следующем этапе возрастала. Эта сеть получила название LSTM, что расшифровывалось как «долгая краткосрочная память». На самом деле способности этой сети были невелики, но Шмидхубер верил, что такая технология позволит создать искусственный интеллект уже в ближайшие годы. Он утверждал, что некоторые нейронные сети обладают не только памятью, но и чувствительностью. «У нас в лаборатории рождается разум», – говорил он. Как позже с чувством выразился один из студентов, «он походил на маньяка».
Хинтон шутил, что LSTM расшифровывается как «looks silly to me» («мне это кажется глупостью»). Шмидхубер служил особенно ярким примером давней традиции, существовавшей среди исследователей искусственного интеллекта, начиная с Розенблатта, Мински и Маккарти. Со времени возникновения этой области науки ее наиболее выдающиеся представители время от времени обещали создать жизнеспособные технологии, но эти обещания так и оставались пустым звуком. Иногда это был способ привлечь инвестиции со стороны правительственных учреждений или венчурных капиталистов. В других случаях это была искренняя вера в то, что ИИ действительно не за горами. Такой оптимистичный настрой помогал продвигать исследования вперед. Но он же, когда реальные технологии не оправдывали ожиданий, становился тормозом прогресса на многие годы.
Сообщество коннекционистов было крошечным, и возглавляли его европейцы – англичане, французы, немцы. Даже политические, религиозные и культурные взгляды этих ученых не укладывались в рамки американского мейнстрима. Хинтон был убежденным социалистом. Бенжио отказался от французского гражданства, потому что не хотел служить в армии. Лекун называл себя «воинствующим атеистом». Хотя Хинтон таких терминов не использовал, чувствовал он примерно то же самое. Он часто вспоминал один