Общими усилиями Фриновского удалось уговорить, но тут возникла новая заминка. Начальником Отдела охраны вместо К. В. Паукера, арест которого был предрешен, Ежов предложил присутствующего на встрече В. М. Курского, с одновременным назначением его еще одним своим заместителем. Курский, по примеру Фриновского, стал отказываться, предлагая вместо себя начальника северо-кавказского УНКВД И. Я. Дагина.

Идею назначения Дагина начальником Отдела охраны выдвинул в свое время Евдокимов, поддерживал ее и Фриновский, но Ежов считал, что Дагина в Политбюро еще не знают, а Курский, хорошо зарекомендовавший себя в бытность начальником УНКВД Западно-Сибирского края, партийному руководству известен и, вследствие этого, является более подходящей кандидатурой.

После того, как вопрос о Курском был решен, все остальные кадровые изменения были согласованы достаточно быстро и вступили в силу после их утверждения на ближайшем заседании Политбюро.

Возвышение Фриновского и Курского было всего лишь одним из проявлений начавшейся весной 1937 г. экспансии северокавказского клана чекистов. Сделав ставку на питомцев «гнезда Евдокимова», Ежов стал активно заменять ими прежние ягодинские кадры, в первую очередь на территориальном уровне. Бывший начальник управления НКВД по Северо-Кавказскому краю И. Я. Дагин впоследствии вспоминал:

Примерно так и получилось. К концу 1937 г. выходцы из северо-кавказского управления оказались во главе 14 краевых, областных и автономно-республиканских управлений и наркоматов внутренних дел Российской Федерации. Три отдела ГУГБ тоже возглавлялись к этому времени северо-кавказцами.

Помимо северо-кавказского управления, важную роль в обновлении руководящего состава играли московское УНКВД, возглавляемое свояком Сталина С. Ф. Реденсом, ленинградское управление, руководимое близким к Ежову Л. М. Заковским, а также возглавлявшееся до апреля 1937 г. Фриновским Главное управление пограничной и внутренней охраны.

Ряд ответственных постов в Главном управлении госбезопасности Ежов доверил своим бывшим соратникам по партийному аппарату, перешедшим вслед за ним на работу в НКВД. Поначалу они использовались на различных вспомогательных участках: Административно-хозяйственном управлении, Секретариате, Отделе кадров, Учетно-регистрационном отделе, но с весны 1937 г. начинается их приобщение и к собственно чекистской работе. В мае М. И. Литвин становится начальником Секретно-политического отдела, в июле И. И. Шапиро и С. Б. Жуковский возглавили, соответственно, Специальный отдел и Отдел оперативной техники. Таким образом, с учетом того, что В. Е. Цесарский продолжал руководить Учетно-регистрационным отделом, под началом партийных сослуживцев Ежова оказались к концу июля 1937 г. четыре из двенадцати отделов Главного управления госбезопасности.

Было бы неправильно, как это иногда делается, рассматривать партийных выдвиженцев Ежова как какую-то особую группу, через которую он проводил свою линию или осуществлял влияние на остальных чекистов. Ежов даже и чисто внешне стремился продемонстрировать, что для него все равны, что он не отдает никакого предпочтения «своим» людям, и в этом стремлении заходил иногда далеко за пределы того, что считается допустимым, с точки зрения служебной этики.

Вспоминает бывший сотрудник НКВД Е. В. Бурынин:

А вот свидетельство другого чекиста, Г. Н. Лулова:

Поскольку многие подразделения НКВД оказались, по мнению Сталина и Ежова, засорены врагами народа, пробравшимися туда в период руководства Ягоды, решено было, наряду с чисткой наркомата, обновить его методом вливания свежей крови. Уже в декабре 1936 г. в распоряжение Ежова начинают прибывать первые группы партработников, направленных в НКВД для усиления там «партийного влияния». Новички стажировались в различных отделах ГУГБ, в основном в Контрразведывательном, Секретно-политическом, Особом и Транспортном, после чего становились уже полноправными чекистами. Так поменяли профессию второй секретарь Воронежского горкома партии А. М. Алемасов, секретарь парткома Сталиногорского химического комбината А. Ф. Боечин и многие другие партийные функционеры среднего звена.

17 апреля 1937 года Политбюро приняло решение дополнительно направить на стажировку в НКВД пятьдесят слушателей высшей школы партийных организаторов при ЦК ВКП(б), с тем чтобы после овладения необходимыми знаниями и навыками они были использованы на оперативной работе в системе Главного управления государственной безопасности.

Весь 1937 год ГУГБ и управления госбезопасности на местах пополнялись посланцами партии и комсомола, многие из которых были в дальнейшем назначены на руководящие посты в центральном аппарате и региональных подразделениях НКВД. Например, уже упоминавшиеся А. М. Алемасов и А. Ф. Боечин стали, соответственно, наркомом внутренних дел Татарской АССР (июль 1937 г.) и начальником Управления НКВД по Курской области (ноябрь 1937 г.), а пришедший одновременно с ними руководитель политотдела одного их свеклосовхозов в Куйбышевской области А. Д. Баламутов возглавил в 1938 г. Секретно-шифровальный отдел.

Формирование новой команды продолжалось в течение всего 1937 года, однако уже к концу лета в распоряжении Ежова находился вполне боеспособный коллектив единомышленников, готовых выполнять любые его указания и не брезгующих никакими средствами для достижения поставленной цели.

Дождавшись, когда маховик чистки в НКВД раскрутится на полные обороты, и убедившись, что все проходит без» каких-либо эксцессов, Сталин в конце апреля 1937 г. приступил к укреплению второй главной опоры режима — Рабоче-Крестьянской Красной Армии (РККА).