Шрифт:
Интервал:
Закладка:
* * *
Как ни трудны были 1990-е годы для Лекуна, для Хинтона они были еще тяжелее. Вскоре после переезда в Торонто они с женой усыновили двоих детей из Южной Америки: мальчика Томаса из Перу и девочку Эмму из Гватемалы. Обоим еще не исполнилось шести лет, когда его жена начала страдать болями в животе и терять в весе. Хотя это продолжалось несколько месяцев, она отказывалась обратиться к врачу, твердо придерживаясь своей веры в гомеопатическую медицину. Когда она наконец сдалась, у нее обнаружили рак яичников. Но даже тогда она продолжала настаивать на гомеопатическом лечении, отказываясь от химиотерапии. Полгода спустя она умерла.
Хинтон полагал, что его карьера ученого подошла к концу. Ему нужно было заботиться о своих детях, а Томасу, у которого были, как говорили в семье, «особые потребности», нужно было самое пристальное внимание. «Я проводил время в раздумьях», – говорил впоследствии Хинтон. Два десятилетия спустя, получая – вместе с Лекуном – премию Тьюринга, он выразил благодарность своей второй жене Джеки Форд, англичанке, занимавшейся историей искусства, за то, что она спасла его научную карьеру, когда они поженились в конце 1990-х, и помогла ему вырастить детей. Они познакомились много лет назад в Университете Сассекса. Встречались на протяжении года, а потом он переехал в Сан-Диего, и они расстались. Они воссоединились, когда он вернулся в Великобританию и устроился на работу в Университетский колледж Лондона, но вскоре после этого они снова переехали в Канаду. Ему казалось, что его детям лучше в Торонто.
Так на рубеже тысячелетий Хинтон снова вернулся в свой угловой кабинет в корпусе компьютерных наук Университета Торонто, выходящий окнами на мощеную булыжником улицу, прорезавшую кампус насквозь. Окна были такие большие, что все тепло уходило из его кабинета, согревая окоченевшую от сильных морозов природу. Этот кабинет стал привычным местом сбора для небольшого сообщества ученых, которые все еще верили в нейронные сети, – отчасти благодаря научному авторитету Хинтона, но также из-за его креативности, энтузиазма и своеобразного чувства юмора люди тянулись к нему, пусть даже поболтать о пустяках. Если ему отправили письмо с вопросом, как он предпочитает, чтобы его называли, Джеффри или Джефф, его ответ в равных долях содержал остроумие и обаяние:
Я предпочитаю Джеффри.
Спасибо,
Джефф.
Исследователь Аапо Хювяринен104 однажды опубликовал научную статью, сопроводив ее словами благодарности, которые дают представление как о чувстве юмора Хинтона, так и о его вере в то, что идеи выше математики:
Базовая идея, лежащая в основе этой статьи, разрабатывалась при активном участии Джеффри Хинтона, который, однако, не пожелал стать соавтором, потому что статья содержит слишком много уравнений.
Критерием хорошей идеи для него было то, сколько он веса потерял, потому что забывал поесть. Один студент утверждал, что лучшим рождественским подарком от своей семьи Хинтон считал позволение вернуться в лабораторию и еще немного поработать в праздник. А по свидетельствам многих коллег, у него всегда была привычка забежать в комнату, объявить, что он наконец-то понял, как работает мозг, объяснить свою новую теорию, потом так же быстро убежать, а через несколько дней вернуться и сказать, что его прежняя теория совершенно неверна, но теперь у него есть новая.
Руслан Салахутдинов, впоследствии ставший одним из ведущих мировых коннекционистов и одним из самых плодовитых сотрудников Apple, уже было расстался с этой областью науки, когда в 2004 году познакомился с Хинтоном в Университете Торонто. Хинтон рассказал ему о новом проекте, связанном с послойным обучением массивных нейронных сетей, снабжаемых гораздо большим количеством данных, чем это было возможно в прошлом. Это называлось «глубокие сети доверия». Он и уговорил Салахутдинова вернуться в лоно коннекционизма. Помимо других факторов, свою роль здесь сыграл авторитет Хинтона, само его имя. Молодой студент по имени Навдип Джейтли попросился в торонтскую лабораторию Хинтона после того, как случайно увидел огромную очередь студентов, выстроившихся перед кабинетом профессора. Другой студент, Джордж Даль, заметил подобный эффект в более широком контексте исследований, связанных с машинным обучением. Каждый раз, когда он натыкался на интересную научную работу или на интересного исследователя, обнаруживалась прямая связь с Хинтоном. «Не знаю, то ли Джефф выбирает людей, которые в конечном итоге становятся успешными, то ли он каким-то образом делает их успешными. Я сам это испытал и склоняюсь ко второму варианту», – говорит Даль.
Сын преподавателя английского языка и литературы, Даль был ученым-идеалистом, который сравнивал поступление в аспирантуру с уходом в монастырь. «Нужно иметь неотвратимую судьбу, какое-то призвание, которое поможет тебе переживать темные времена, когда твоя вера слабеет», – любил говорить он. Его призванием, решил он, был Джефф Хинтон. И он был не одинок. Когда Даль нанес визит еще одной группе исследователей, занимавшихся машинным обучением в Университете Альберты, тамошний студент по имени Влад Мних пытался убедить его, что его место здесь, а не в Торонто. Но когда той же осенью Даль приехал в Университет Торонто и вошел в переоборудованный чулан, где университет выделил ему рабочее место, Мних уже тоже был там. Он перебрался в лабораторию Хинтона еще летом.
В 2004 году, когда интерес к нейронным сетям в целом пошел на убыль, Хинтон удвоил ставку на свою идею, надеясь интенсифицировать работу в своем маленьком сообществе коннекционистов. «Тема в группе Джеффа всегда была одна и та же: старое – это новое, – говорит Даль. – Если идея хорошая, ты продолжаешь попытки еще двадцать лет, развиваешь ее, пока она не сработает. Она не перестанет быть хорошей идеей, если она не сработала сразу же». Имея более чем скромное финансирование со стороны от Канадского института перспективных исследований – менее 400 000 долларов в год – Хинтон создал новый коллектив, сосредоточивший внимание на том, что он называл «программой нейронных вычислений и адаптивного восприятия», и дважды в год проводил семинары для исследователей, которые все еще придерживались этих коннекционистских взглядов, включая специалистов по информатике, инженеров-электронщиков, нейробиологов и психологов. Лекун и Бенжио играли