На протяжении X–XI веков эти кланы и их ветви разрастались, особенно в восточной части Японии, однако ни у одного из них еще недоставало мощи, чтобы соперничать с Императорским двором — пока они управляли своими непосредственными владениями. Иногда в сельской местности вспыхивали восстания, как, например, мятеж 939 года, в котором Тайра-но Масакадо захватил власть над восемью провинциями. В «Сёмонки» («Записи о Масакадо», сер. X в.) утверждается, что после военного успеха Масакадо, получив пророчество божества Хатимана, провозгласил себя «новым императором» (яп. синно). Не имея никакой военной силы для борьбы с такими восстаниями, двор всецело полагался в этом на провинциальные военные кланы. Минамото получили прозвище «клыков и когтей» клана Фудзивара. Военные семейства соглашались служить придворным в обмен на земли, налоговый иммунитет, а также почет и придворные должности, которые они ценили по причине своего аристократического происхождения. Даже став провинциальным военным сословием, военные семейства все еще нуждались в легитимации и культурном капитале, предоставить которые мог только Императорский двор.

Около 1100 года позиция воинского сословия заметно изменилась. Хотя двор по-прежнему был источником почетных должностей и наград, а центральное правительство все еще рассылало указы, за пределами столицы реальная власть над землей значила больше, чем придворные титулы, а военная сила была куда эффективнее закона. По мере того как Тайра и Минамото усиливали свое влияние, различные фракции в Киото, например отрекшиеся императоры или представители рода Фудзивара, все чаще привлекали их для вмешательства в придворные дела, такие как вопросы престолонаследования. В 1159 году споры о наследовании между действующим и монашествующим императорами привели к смутам годов Хогэн и Хэйдзи, напрямую столкнув между собой два воинских клана. Тайра-но Киёмори (1118–1181), вождь клана Тайра, развившего обширные связи с китайской династией Сун, оказался более удачливым и сумел добиться контроля над Императорским двором, приняв в 1167 году титул главного министра и поселив своих вассалов в столице. Киёмори заставил своих недоброжелателей и соперников уйти с правительственных постов и занялся брачной политикой, сходной с той, что проводил клан Фудзивара, вынудив императора жениться на собственной дочери и отречься от престола в пользу своего внука, нареченного в 1180 году императором Антоку.

Придворные возмутились бесцеремонными выскочками, которые наводнили столицу и отобрали у них привилегии, и потому начали искать другие источники военной силы, которые могли бы изгнать из города клан Тайра. Глава клана Минамото Ёситомо вместе со своими старшими сыновьями был убит в ходе смуты годов Хэйдзи, но Киёмори оставил в живых младших сыновей — Ёритомо, Нориёри и Ёсицунэ. В своей твердыне в Камакуре Ёритомо собрал со всех восточных провинций остатки сил Минамото и начал войну Гэмпэй (1180–1185) за изгнание Тайра из столицы. В 1183 году Минамото подожгли дворец Тайра в Киото и вынудили их бежать и скрыться в своих наследных землях вдоль побережья Внутреннего моря. Минамото одержали окончательную победу в битве при Данноура в 1185 году — одной из самых знаменитых битв японской истории, в которой было перебито большинство членов клана Тайра, а вдова Киёмори с внуком, императором Антоку, на руках бросилась в морскую пучину.

Минамото на протяжении долгого времени строили в Камакуре — городе на востоке равнины Канто — собственные институции военного правления. При Ёритомо начался период владычества воинов — Средние века Японии. Всего в японской истории было три сёгуната: первый, установленный Минамото в Камакуре; сёгунат Муромати, установленный в Киото сёгунами Асикага в XIV–XV веках; и сёгунат Токугава, правивший с XVII по середину XIX века в городе Эдо (ныне Токио). Однако источником власти сёгуната оставался Императорский двор. Как упоминалось выше, титул сёгуна сделал Минамото-но Ёритомо военным защитником придворных привилегий. Двор воспринимал сёгунат как своего представителя, занятого поддержанием дисциплины в воинском ордене, возглавляемом Ёритомо и его вассалами.

Поскольку контроль над вассалами и военными союзниками основывался на материальном поощрении, например конфискованными землями, Ёритомо приходилось балансировать между получением новой добычи для дальнейшего распределения между последователями и достаточной защитой и поддержанием придворных привилегий, чтобы его не лишили звания сёгуна. Таким образом, Ёритомо не пытался переделать существующую систему правления Императорского двора, а только добавлял к ней еще один уровень, чтобы удовлетворять нужды зарождающегося воинского сословия. Ёритомо выслал в столицу свою армию, чтобы «попросить» двор об учреждении двух новых должностей: военного губернатора для каждой провинции (сюго) и военного управляющего для каждого из больших частных поместий сёэн (дзито). Эти должностные лица отвечали за все военные и полицейские функции провинции или поместья и были уполномочены собирать за это налог в свою пользу. Налог распространялся на всю возделываемую землю, будь она государственной или частной. Этот радикальный шаг означал, что больше не существовало поместий, полностью освобожденных от налогов, а богатства знати и храмов начинали перетекать к воинскому сословию.

Ёритомо назначил на эти должности самых верных вассалов. С течением времени эти должностные лица расширили свои права и обязанности. Они собирали не только военный налог в пользу сёгуната, но и все налоги с порученных им земель, оставляя некоторую часть себе, а остальное передавая владельцам. Они также занимались освоением новых земель, следили за дорогами и почтовыми станциями, арестовывали разбойников и организовывали судебные разбирательства. Тем самым они постепенно замещали функции гражданского правительства, назначенного двором. Ёритомо установил в Камакуре три основные ветви власти — военную, административную и судебную, главой каждой из которых назначил верного вассала. Эти учреждения отвечали за распределение военной добычи между вассалами, разрешение споров, отправление правосудия и поддержание закона и порядка. Особенно примечательной была судебная ветвь: она тщательно разбирала свидетельства и прецеденты при рассмотрении тяжб, часто чрезвычайно запутанных из-за сложной системы распределения доходов с поместий между многочисленными владельцами должностных земель (сики) или лицами, имевшими права на долю доходов.

Ёритомо умер в 1199 году. Наследниками стали два его сына — Ёрииэ и Санэтомо, но они находились под сильным влиянием жены Ёритомо Ходзё-но Масако — могущественной женщины, принявшей постриг после смерти мужа и известной как «монахиня-сёгун». Более сотни лет в дальнейшем регенты Ходзё контролировали официальных сёгунов так же, как регенты Фудзивара управляли императорами. В правление Ходзё сёгуны сами по себе не являлись слишком уж важными фигурами. После того как линия Ёритомо прервалась, Масако усыновила ребенка из клана Фудзивара, чтобы назначить его сёгуном. Таким образом, в XIII веке управленческая структура Японии была достаточно замысловатой — своего рода двоевластием: в Киото царствовал император, но значительным влиянием пользовались и отрекшиеся государи; вторым центром являлась ставка военного правительства в Камакура, но сёгунов, в свою очередь, контролировали регенты рода Ходзё. При этом сёгунат постепенно присваивал себе функции и прерогативы двора. Ходзё были умелыми управляющими, создавшими разумный и эффективный официальный свод законов и верившими в эффективное управление, строго следя за своими военными губернаторами и наместниками. Они также учредили представительство сёгуната в Киото, чтобы контролировать двор и вмешиваться в придворные дела, например престолонаследование. Власть Ходзё распространялась не только на внутренние дела Японии: так, они организовали оборону страны от монгольских нашествий в 1274 и 1281 годах.