После поголовного истребления вероломно изменившего Нобунаге самурайского клана Адзаи в 1573 году Хидэёси получил от Оды в лен бывшие владения этого уничтоженного им «под корень» рода «боевых холопов» в северной части провинции Оми и построил там крепость Нагахама. Поскольку он не имел собственных вассалов, то принял к себе на службу своих родственников, преимущественно выходцев из крестьянского сословия. Кроме этого, он принял в свой клан некоторых вассалов уничтоженного рода Адзаи, блуждавших, в качестве бесприютных «ронинов», по Стране восходящего солнца в поисках нового сюзерена, которому могли бы предложить свои мечи и жизни. Тогда же он принял новое имя — Хидэёси Хасиба.

В 1575 году Хидэеси принял участие в знаменитой битве при Нагасино, в которой три тысячи аркебузиров Нобунаги Оды, почти что в упор, расстреляли знаменитую конницу клана Такэда, навеки сломив военно-политическую мощь этого «военного дома», чуть было не объединившего под своей властью всю Страну восходящего солнца.

В 1576 году он был назначен помощником «тайсё» Кацунэ Сибаты, командующего войсками Нобунаги Оды, преградивших путь наступающей армии «даймё» Кэнсина Уэсуга (давнего соперника клана Такэда). При обсуждении плана боевых действий Хидэёси поссорился с командующим и самовольно оставил военную Ставку. Проведённая Кацунэ Сибатой лобовая атака не увенчалась успехом, и возглавляемая им армия клана Ода потерпела сокрушительное поражение в битве с войсками Уэсуги при Тэдоригавс. Сюзерен Хидэёси Нобунага Ода, узнав о фактическом дезертирстве своего вассала в канун сражения, собирался казнить его, но, учитывая возможность использовать хозяйственные и полководческие качества Хидэёси, в конце концов ограничился вынесением дезертиру строгого выговора.

Чтобы дать Хидэёси возможность искупить свою вину, Нобупага Ода назначил своего провинившегося вассала командующим войсками клана Ода в войне против могущественного самурайского клана Мори (чей родовой герб-«мон» — журавль с поднятыми крыльями — стал эмблемой японской авиакомпании «Джапан Эр Лайнс», Джи Эй Эл). В 1577–1578 годах Хидэёси удалось подчинить несколько самурайских родов — Акамацу, Бэссё и Кодэра — и создать на их землях плацдарм для борьбы с Мори, с центром в замке Химэдзи. В 1579 году Хидэёси сумел переманить на свою сторону самураев рода Укита, давних вассалов клана Мори.

Однако в 1580 году в тылу у Хидэёси против власти Нобунаги Оды восстал самурайский род Бэссё, вследствие чего ему пришлось приостановить успешно развивавшееся наступление на запад и осадить родовой замок восставших. Неприятельская цитадель была взята измором только через год, после чего Хидэёси захватил провинцию Тадзима — владение старинного самурайского рода Ямана. Последние вассалы главы клана Ямана, собравшиеся в замке Тоттори, видя бессилие своего сюзерена, изгнали его и перешли на сторону Мори (как видим, самурайские заповеди, и первейшая из них — непоколебимая верность сюзерену — соблюдались «боевыми холопами» на практике далеко не всегда, особенно в трудные времена «войны всех против всех»). В 1581 году Хидэёси осадил замок Тоттори и, скупив весь провиант в округе, взял неприятельскую цитадель измором.

Как уже упоминалось выше, в 1582 году Хидэёси по приказу Нобунага Ода вторгся в провинцию Биттю и осадил замок клана Мори Такамацу. Этот замок находился в окружённой горами долине, омываемой с обеих сторон реками. Хидэёси свёл дамбы вокруг замка и изменил направление рек так, что вода залила всю долину. В результате этой инженерной стратагемы Хидэёси и сильных дождей замок превратился в островок посреди искусственного озера. До его падения оставалось несколько недель.

В мае 1582 года, как уже говорилось выше, против Нобунаги Оды восстал его вассал Мицухидэ Акэти (которого Ода когда-то оскорбил, ударив веером, посеяв в душе злопамятного вассала зерна ненависти и будущей мести). Окруженный в киотском храме Хоннодзи (как и многие японцы тех и нынешних времен, Ода, будучи ревностным христианином, оставался в то же время — так, на всякий случай! — синтоистом, а заодно и буддистом) десятитысячным войском мятежника, Нобунага Ода, увидев, что храм охвачен огнем, совершил над собой обряд «сэппуку» (по другой версии, он нал от руки Акэти Мицухидэ, однако точно установить это так и не удалось, поскольку труп злополучного «даймё» сгорел в огне пожара, уничтожившего храм). Узнав о гибели своего сюзерена, Хидэёси, все еще осаждавший замок Такамацу, скрыл полученную новость от противника, заключил перемирие с кланом Мори и спешно отвел все свои войска к столице. Одновременно на разгром мятежных самураев Мицухидэ Акэти (объявившего себя «сёгуном») двинулся ещё один близкий соратник Нобунаги — Иэясу Токугава, однако Хидэёси опередил Токугаву, преодолев всего за три дня расстояние в несколько сотен километров. 12 июня 1582 года сорокотысячная армия Хидэёси, благодаря своему подавляющему численному превосходству, разгромила войска самозваного «сёгуна» Мицухидэ Акэти в битве при Ямадзаки. Искавший спасение в бегстве вероломный Мицухидэ (вошедший в историю Японии под ироничным прозвищем «сёгун на тринадцать дней» или «тринадцатидневный сёгун») был убит местными крестьянами при попытке силой получить от них провизию и конский фураж (по другой, более «романтической» и «героической», версии, «тринадцатидневный сёгун» пал от руки самого Хидэёси, желавшего во что бы то ни стало отомстить неверному вассалу за гибель своего сюзерена).

Всячески выставляя себя в качестве «мстителя за своего господина Нобунагу», Хидэёси увеличил тем самым своё влияние в среде соратников клана Ода. На совещании в замке Киёсу, где решался вопрос о наследстве рода Ода, он заручился поддержкой влиятельных «тайсё» Нагахидэ Нивы и Цунэоки Икэды. По решению совещания, Хидэёси получил часть владений покойного Нобунаги Оды и упрочил свое положение, став регентом-советником нового предводителя «военного дома» Ода — трёхлетнего Хидэнобу. Решения совещания вызвали недовольство давнего недоброжелателя и оппонента Хидэёси — «тайсё» Кацуиэ Сибаты (не простившего ему, в отличие от покойного Оды, дезертирства перед битвой при Тэдоригаве и с беспокойством следившего за его неудержимым возвышением).

В 1583 году противостояние между Хидэёси и Сибатой переросло в вооружённый конфликт. В решающем сражении при Сидзутагакэ войска Кацуиэ Сибаты потерпели поражение и отступили в провинцию Этидзэн. Со временем на сторону Хидэёси перешел Маэда Тосииэ, влиятельный вассал рода Ода и многолетний союзник Сибаты. Пользуясь моментом, армия победителей вторглась во владения противника и окружила его главную цитадель Китаносё. Убедившись в безвыходности своего положения, Кацуиэ Сибата и его супруга Оити совершили над собой обряд «сэппуку», и крепость пала. После падения крепости Китаносё оппозиционные Хидэёси силы внутри клана Ода капитулировали перед регентом-советником, который стал фактическим преемником Оды Нобунаги, захватив его владения и продолжив дело подчинения Японии своей власти.

Сильнейшим конкурентом Хидэёси в деле объединения Страны восходящего солнца был бывший союзник Нобунаги Оды — Иэясу Токугава (о котором будет еще подробно рассказано далее). В 1584 году «боевые холопы» Хидэёси и Иэясу сошлись в битве при Нагакутэ, из которой самураи Токугавы вышли победителями. Однако экономический и военный потенциал Хидэёси был настолько мощным, что Иэясу, трезво поразмыслив и осознав, что выигрыш одной битвы не означает выигрыша всей войны, пошёл на мирные переговоры, прислав в ставку соперника своего старшего сына в качестве заложника. Однако Хидэёси отправил того обратно, требуя от Токугавы лично явиться к нему в Киото и признать свою вассальную зависимость. Тем не менее Иэясу Токугава не собирался оставлять своих владений и признавать себя вассалом Хидэёси. Чтобы принудить Токугаву к покорности, Хидэёси выдал за него свою сестру Асахи и даже отправил к нему в качестве заложницы свою престарелую мать. Наконец в 1586 году Иэясу Токугава прибыл в Киото, где присягнул на верность новому сюзерену. Таким образом, Хидэёси закрепил за собой статус единственного законного наследника Оды Нобунаги.