Шрифт:
Интервал:
Закладка:
Демонстрация подобных устройств производила большое впечатление на современников, но необходимость менять аппаратное устройство машин для того, чтобы опробовать новые модели, существенно замедляла прогресс в области создания самообучающихся устройств. Поэтому некоторые исследователи решили прислушаться к совету Тьюринга и организовать эксперименты при помощи универсальных вычислительных машин.
В 1954 г. Бельмонт Фарли и Уэсли Кларк из MIT осуществили первые симуляции нейронных сетей при помощи цифрового компьютера. Фарли и Кларк смогли обучить хеббовские сети (т. е. сети, обучение которых производится в соответствии с правилом Хебба), содержащие до 128 нейронов, для распознавания простых паттернов[1209]. В ходе экспериментов они обнаружили, что случайное удаление по крайней мере до 10% нейронов в обученной сети не влияет на её способность успешно выполнять стоящую перед ней задачу[1210], [1211], [1212]. Это свойство искусственной нейронной сети напоминало способность мозга до некоторой степени переносить ущерб, причинённый хирургической операцией, несчастным случаем или болезнью.
В 1955–1956 гг. группа из исследовательской лаборатории IBM в Покипси (Нью-Йорк, США) под руководством Натаниэля Рочестера провела ряд вычислительных экспериментов с хеббовскими сетями, используя машину IBM 704, при этом размер сетей доходил до 512 нейронов. В ходе этих экспериментов было подтверждено формирование клеточных ансамблей в процессе хеббовского обучения[1213].
4.4.5 Перцептрон Розенблатта
Закономерным итогом ранних теоретических работ, а также первых экспериментов в области искусственных нейронных сетей стало появление перцептрона (perceptron, в русскоязычной литературе иногда используется альтернативное написание этого термина — «персептрон») — модели искусственной нейронной сети, опыты с которой были начаты в 1957 г. под руководством Фрэнка Розенблатта в Авиационной лаборатории Корнелла. Перцептроны Розенблатта отличались лишь в некоторых деталях от нейронных сетей, предложенных ранее Фарли и Кларком, а также рядом британских исследователей, таких как Реймонд Бёрл, Уилфред Тейлор и Альберт Аттли. Вклад Розенблатта заключался в развитии математического аппарата теории нейронных сетей, а также в обширных экспериментальных исследованиях в этой области. Именно Розенблатт, стремясь подчеркнуть особую важность связей между нейронами, изобрёл термин «коннекционизм», используемый сегодня для обозначения подхода в области искусственного интеллекта (а также когнитивистики, нейробиологии, психологии и философии сознания), в рамках которого мыслительные или поведенческие явления моделируются при помощи процессов, происходящих в сетях, состоящих из связанных между собой простых элементов (введённое позже более общее понятие «параллельная распределённая обработка» отражает тот факт, что в искусственных нейронных сетях и подобных им моделях большое количество относительно простых процессоров работает параллельно, и то, что сети хранят информацию распределённым образом).
Розенблатт разделил нейронные сети на простые двухслойные (один слой для ввода, а второй для вывода; такой перцептрон он назвал α-перцептроном) и многослойные сети (с одним или несколькими промежуточными слоями). Он обобщил тип обучающей процедуры, использованной Фарли и Кларком при обучении двухслойных сетей, таким образом, чтобы её можно было применять и к многослойным сетям[1214].
Биография Розенблатта заслуживает подробного изложения.
Фрэнк Розенблатт родился 11 июля 1928 г. в городке Нью-Рошелле на юго-востоке штата Нью-Йорк. Основанный в 1688 г. гугенотами, бежавшими из Франции из-за религиозных преследований, город получил своё название в честь Ла-Рошели, откуда происходили многие колонисты.
Поэт Джим Монтегю запечатлел образ Нью-Рошелла того времени в стихотворении «Queen City of the Sound» (1926)[1215]. В начале 1930‑х гг. Нью-Рошелл был лидером по среднедушевым доходам населения в штате Нью-Йорк и занимал по этому показателю третье место в стране[1216].
Отец Фрэнка, Фрэнк Фердинанд Розенблатт, происходил из местечка Лабунь (ныне — Хмельницкая область Украины), находившегося на территории Российской империи. В юности Фрэнк Фердинанд участвовал в революционной деятельности и иммигрировал в США из-за угрозы ареста[1217]. Позже он стал известным экономистом и социологом, доктором Колумбийского университета, автором ряда научных трудов (например, фундаментального исследования по истории чартистского движения), редактором рабочих периодических изданий на идише и руководителем левой еврейской рабочей организации Arbeter Ring (Workmen’s Circle, «Рабочий кружок»). После Первой мировой войны Фрэнк Фердинанд участвовал в качестве консультанта в восстановлении разрушенной войной экономики Австрии, занимал пост исполнительного директора Объединённого распределительного комитета американских фондов помощи евреям, пострадавшим от войны (American Jewish Joint Distribution Committee, «Джойнт»), а также основал небольшое издательство Frank-Maurice Inc.[1218], [1219] В апреле 1919 г. Розенблатт-старший занимался распределением гуманитарной помощи в Сибири и на Дальнем Востоке. Он пытался добиться прекращения еврейских погромов и пропаганды антисемитизма и, вопреки инструкциям «Джойнта», был вынужден неоднократно конфликтовать с американскими представителями в Сибири — дипломатами, военными, руководителями миссии Красного Креста, поддерживавшими правительство Колчака. Так, например, телеграмма Розенблатта в Нью-Йорк о еврейском погроме в Екатеринбурге, проведённом казаками, вызвала гнев генерального консула США в Омске Эрнеста Ллойда Харриса, который обвинил его в искажении фактов[1220]. Фрэнк Фердинанд Розенблатт скоропостижно скончался 7 ноября 1927 г., за восемь месяцев до рождения своего младшего сына.
Мать Фрэнка, Кэтрин Розенблатт, была социальным работником. Старший брат Фрэнка — Морис Розенблатт, в будущем известный американский политик, лоббист и консультант сенатора Ральфа Фландерса. Именно благодаря усилиям Мориса удалось сместить сенатора Джозефа Маккарти с поста главы сенатских комитетов и прервать мрачную эпоху маккартизма[1221], [1222], [1223].
После окончания Высшей школы наук в Бронксе (Bronx High School of Science)[1224] в 1946 г. Фрэнк поступил в Корнеллский университет, где в 1950 г. получил степень бакалавра наук, а через шесть лет — степень доктора философии, защитив диссертацию «Расчёт K-коэффициента и