условных рефлексов. Среди прочего Павлов и его коллеги исследовали влияние соотношения силы условного и безусловного подкрепления на интенсивность и продолжительность условного рефлекса. Соответствующая закономерность, сформулированная Павловым и его учеником Борисом Бабкиным, получила название «закон относительной силы»[1185]. Исследования Павлова стали источником многих новаторских идей в области физиологии нервной деятельности, однако они были по большей мере сосредоточены в области крупномасштабной структуры и функций — на страницах его работ почти не встречаются рассуждения о процессах, происходящих на клеточном уровне.

Однако там, где Павлов всё-таки спускается на клеточный уровень, его суждения весьма точны и одновременно осторожны: «…связывание импульсов в разных областях мозга путём образования новых нервных связей является первым нервным механизмом, с которым мы столкнулись при изучении физиологии полушарий. Вопрос о месте, где возникает эта новая нервная связь, ещё не получил чёткого ответа. Это происходит исключительно в коре или между корой и подкорковыми областями? <…> В любом случае клетки, преимущественно возбуждённые в данный момент времени, становятся очагами, притягивающими к себе нервные импульсы, возбуждённые импульсами новых стимулов, которые при повторении имеют тенденцию следовать по тому же пути и, таким образом, устанавливать условные рефлексы»[1186].

Хотя работа Хебба является гораздо более полной в деле определения модели процесса обучения, чем большинство предыдущих работ в этой области, она всё ещё слишком вольна в своих определениях, чтобы найти однозначное отражение в виде алгоритма. Однако соображения Хебба оказались важным отправным пунктом, который позволил сразу нескольким группам исследователей разработать конкретные алгоритмические версии принципа Хебба и даже воплотить их в конструкциях экспериментальных устройств.

4.4.4 Первые эксперименты в области искусственных нейронных сетей

Одним из первых таких устройств стал SNARC (Stochastic Neural Analog Reinforcement Calculator, стохастический нейронный аналоговый калькулятор с подкреплением), разработанный Марвином Минским.

По просьбе Минского Джордж Миллер, один из основателей когнитивной психологии, договорился о финансировании проекта за счёт средств Управления научных исследований военно-воздушных сил США летом 1951 г. (речь шла о нескольких тысячах долларов). «Рабочими руками» проекта стал сам Минский, который был тогда аспирантом-математиком в Принстонском университете, а также аспирант-физик Дин Эдмондс, умелый электронщик, добровольно вызвавшийся участвовать в проекте.

Сама машина представляла собой случайное соединение из сорока искусственных нейронов и моделировала поведение крысы, пытающейся отыскать выход из лабиринта.

Каждый из нейронов был реализован при помощи шести электроламп и двигателя. Память машины сохранялась в положениях ручек управления — по одной на каждый искусственный нейрон, — и, когда машина обучалась, она использовала сцепления для регулировки своих ручек. Для перемещения сцеплений использовался резервный гиропилот[1187] от бомбардировщика B-24.

Топология сетей выбиралась случайным образом. «Крыса» создавалась в какой-то точке в сети и затем отправлялась изучать путь к заданной конечной точке. Сначала «крыса» перемещалась по лабиринту хаотически. Если в результате этих хаотических перемещений ей удавалось наткнуться на выход, то для закрепления удачного поведения в систему путём нажатия кнопки подавался сигнал подкрепления. Индикаторная панель с рядами ламп позволяла наблюдателям следить за перемещениями «крысы». В ходе экспериментов выяснилось, что из-за недоработки в архитектуре системы несколько крыс, помещённых в один и тот же лабиринт, могли взаимодействовать друг с другом: если какая-то из «крыс» находила путь, другие были склонны следовать за ней.

Устройство Минского и Эдмондса было, вероятно, первой самообучающейся электронной машиной[1188], [1189]. В данном случае слово «электронной» является важной оговоркой, поскольку самообучающиеся машины на электромеханической основе к тому моменту уже были известны. Часто первой такой машиной называют «мышь» из проекта «Тезей» [Theseus], созданную примерно за год до SNARC Клодом Шенноном. Робомышь, в основу которой была положена система телефонных реле, успешно находила и запоминала путь в лабиринте размером 5 × 5 клеток, используя метод проб и ошибок[1190].

Но, возможно, пальму первенства стоит отдать Россу Эшби с его гомеостатом [Homeostat]. Мы уже упоминали письмо, в котором Тьюринг пытался убедить Эшби использовать для своих экспериментов машину ACE. Эшби, однако, не внял советам коллеги и решил создать специализированное устройство, которое должно было стать работающей иллюстрацией принципа гомеостаза. Мы остановимся на этом любопытном устройстве несколько подробнее. Хотя гомеостат обычно и не относят к числу нейросетевых систем, в действительности он как раз являлся одним из первых примеров реализации искусственных нейронных сетей. Причиной недостаточной очевидности этого факта является весьма оригинальный подход, применённый Эшби, который остался во многом непонятым как современниками этого неординарного учёного, так и впоследствии специалистами по истории науки. Коллега Винера кибернетик Джулиан Бигелоу, ознакомившись с устройством гомеостата, задал вопрос: «Имеет ли эта специфическая модель какое-либо отношение к нервной системе? Это, возможно, прекрасная копия чего-то, но бог знает чего именно».

Давайте попробуем разобраться по порядку, какую именно задачу стремился решить Эшби и что представляли собой методы, положенные в основу гомеостата.

Термин «гомеостаз» (или «гомеостазис», homeostasis), предложенный в 1932 г. американским физиологом Уолтером Кенноном, образован от греческих слов ὅμοιος, что означает «одинаковый», «подобный», и στάσις — «стояние», «неподвижность». Кеннон использовал введённый им термин для обозначения устойчивых состояний организма. Учёный так объяснил необходимость использования нового понятия: «Постоянные условия, которые поддерживаются в организме, можно назвать равновесием [equilibria]. Это слово, однако, приобрело весьма определённое значение применительно к относительно простым физико-химическим состояниям в закрытых системах, где известные силы уравновешивают друг друга. Скоординированные физиологические процессы, которые поддерживают большинство устойчивых состояний в организме, настолько сложны и настолько специфичны для живых существ, что предполагают в ряде случаев совместную работу мозга и нервов, сердца, лёгких, почек и селезёнки. Поэтому я предлагаю специальное обозначение для этих состояний — гомеостаз. Это слово не означает что-то застывшее и неподвижное, стагнацию. Оно обозначает состояние, которое может изменяться, но при этом сохраняет относительное постоянство»[1191]. Термин быстро обрёл популярность в среде кибернетиков и стал трактоваться в более широком ключе — как механизм саморегуляции открытой системы, направленный на достижение «динамического равновесия». Под последним понималась способность системы поддерживать определённое состояние за счёт того, что её компоненты скоординированно реагируют на возмущающие воздействия.

В воскресном выпуске The New York Times от 23 января 1949 г. была опубликована рецензия на книгу «Кибернетика» Норберта Винера под названием «Вещи, о которых мечтают» (The Stuff That Dreams Are Made On)[1192]. Автор статьи, Джон Пфейффер, рассказал читателям о смелых предсказаниях Норберта Винера, а именно о думающих машинах будущего. Автор рецензии был весьма осторожен в своих оценках. Даже сегодня, изучая этот текст с позиции послезнания, в нём трудно найти суждение, к которому можно было бы легко придраться.