Для распространения анализа институтов на изучение эндогенной мотивации широко применялась классическая теория игр. Она рассматривает ситуации, которые являются стратегическими, т. е. оптимальное поведение одного игрока зависит от поведения других. Анализ с применением теории игр начинается с определения набора имеющихся у каждого игрока возможных действий и информации, а также выигрышей, которые он получает при любой комбинации действий, предпринимаемых всеми игроками.

С учетом этих правил игры классическая теория игр фокусируется главным образом на равновесии, при котором каждый из принимающих решения верно оценивает поведение других и считает оптимальным совершение действия, которого от него ожидают. (Основные понятия теории игр объясняются в Приложении А.) Такой подход позволяет рассматривать эндогенно мотивированное поведение; будучи мотивированным действующим и ожидаемым поведением всех остальных игроков, каждый игрок избирает равновесное поведение. Теория игр, таким образом, позволяет изучать отношения между правилами игры и самоподдерживающимся (self-enforcing) поведением.

В частности, экономисты использовали анализ равновесия в теории игр, чтобы понять, почему индивиды придерживаются определенных правил. Подобный анализ применялся к изучению частного порядка – например, того, при котором права собственности гарантированы, а контракты выполняются в отсутствие эффективной правовой системы, управляемой государством [Williamson O., 1985; Уильямсон, 1996; Greif, 1989, 1993; Ellickson, 1991; Dixit, 2004].

Соответствующие исследования изучают эндогенную мотивацию соблюдения различных контрактов, несмотря на информационную асимметрию или ограниченные возможности обеспечения их исполнения [Townsend, 1979; Hart, Holmstrom, 1987; Hart, Moore, 1999]. При подходе с использованием теории игр институты рассматриваются либо как равновесие [Schotter 1981; Greif, 1993; Calvert, 1995], либо как общие убеждения, мотивирующие игру с равновесием [Greif, 1994a; Aoki, 2001], либо как правила игры [North, 1990; Норт, 1997].

Однако при таком определении институтов классическая теория игр не дает адекватного аналитического аппарата для изучения институциональной динамики (сил, вызывающих изменения институтов, и влияния институтов прошлого на последующие). Строго говоря, в классической теории игр настоящее и будущее поведение игроков является отражением заранее определенной стратегии. Тогда любое поведение является направленным вперед, хотя оно может быть обусловлено событиями прошлого. Более того, поскольку это поведение представляет собой равновесие, не существует эндогенных сил, заставляющих институты меняться. Экзогенные институциональные изменения могут произойти, когда меняются правила игры, например, в результате появления новой технологии, но изучение эндогенного изменения несовместимо с рассмотрением институтов как равновесия.

Более того, теория игр показывает, что в данной игре обычно возможно множество равновесий или самоподдерживающихся моделей поведения. Попытки разработать в теории игр концепцию равновесия, предсказывающую единственный исход во всех играх, провалились для повторяющихся ситуаций, которые находятся в центре внимания институционального анализа.

Теория игр не устанавливает связей между поведением в одной игре и поведением в исторически следующей за ней. В новой игре, даже если ее отличия от предшествующей минимальны, все равновесия одинаково вероятны, независимо от происшедшего в предыдущей игре. Если институты рассматриваются как равновесия в играх или предпочтения их участников, мы не можем исследовать воздействие институтов прошлого на последующие.

Если институциональный анализ начинается с игры и рассматривается равновесное поведение внутри нее, то многое из того, что требует объяснения, принимается как данность. Почему вопреки сходным технологическим возможностям в разных обществах играют в разные игры? Утверждение, что отдельная игра является равновесным результатом в более масштабной метаигре, правила которой отражают только атрибуты имеющихся технологий и физический мир, полезно, но неудовлетворительно, потому что отбрасывает вопрос о происхождении институтов на шаг назад. Каково происхождение этой метаигры? Теория, которая делает возможным изучение эндогенных мотиваций, недостаточна для анализа институциональной динамики.

Наконец, спецификация и решение игры требуют сильных допущений относительно общих моделей познания и рациональности у игроков. Начиная анализ с игры, мы, таким образом, игнорируем возможную роль институтов в создании знания, познании и в направлении рациональности. Важность таких ролей институтов, однако, подчеркивается в литературе старого институционализма. В ней убедительно показывается, что главная причина существования институтов заключается в том, что индивиды никогда не бывают полностью рациональными и не обладают идеальным общим знанием ситуации [Veblen 1899; Веблен, 1984; Mitchell, 1925; Commons, 1924; Коммонс, 2011; Hayek, 1937; Хайек, 2011].

Инкорпорирование тезисов старого институционализма об ограниченной рациональности и познании в изучение институтов и институциональной динамики является центральной задачей эволюционного институционализма, который в значительной степени опирается на эволюционную теорию игр. Этот подход отождествляет институты с особенностями взаимодействующих индивидов (чертами поведения, привычками, рутинными действиями, предпочтениями и нормами) и изучает, как эволюционные силы в сочетании с изменениями, подражанием и случайными экспериментами влияют на долговременное равновесное распределение этих особенностей [Ullmann-Margalit, 1977; Nelson, Winter, 1982; Sugden, 1989; Kandori, Mailath, Rob, 1993; Weibull, 1995; Kandori, 1997; Young, 1998; Hodgson G., 1998; Gintis, 2000].

Обходя вопрос о мотивации и приписывая изменения в поведении эволюционным силам, эволюционный подход сглаживает недостатки классической теории игр, возникающие в исследованиях институциональной динамики. Но аналитический аппарат этого подхода ограничивает его применение. Процессы экспериментирования, изменения и обучения, которые подталкивают процесс институциональных изменений, рассматриваются как экзогенные по отношению к анализу. Как отмечает Дэвид [David, 1994, p. 208], «собственно работа эволюционного процесса… осталась обрисована в лучшем случае в схематическом виде». Более того, по техническим причинам анализ часто прибегает к крайним допущениям касательно человеческой природы. Считается, что индивиды полностью близоруки, не способны узнать тех, с кем взаимодействовали в прошлом, не способны выбирать, с кем взаимодействовать, не могут координировать свое поведение и в целом не способны структурировать свое окружение. Такие допущения дают недостаточные микроосновы для эволюционных процессов в человеческих обществах.

Даже этот краткий обзор позволяет увидеть, что в экономике существует множество определений институтов (то же самое происходит в социологии и политических науках). Эти определения считались взаимоисключающими. Подход к институтам как к правилам определяет их в основном как правила, организации и контракты. Ученые, использующие классическую теорию игр, определяют институты как правила игры, равновесие или общие убеждения, мотивирующие игру равновесия, тогда как приверженцы эволюционного институционализма отождествляют институты с атрибутами равновесия взаимодействующих индивидов, такими как особенности поведения, привычки, рутинные практики, предпочтения и нормы.