В сентябре 1936 г. наркомом НКВД вместо Ягоды был назначен Ежов, со ссылкой на то, что был раскрыт правофашистский заговор в самом Наркомате. 20 декабря этого года Сталин в годовщину основания НКВД пригласил всех руководящих работников прошедших судебных процессов на банкет, где он выразил им полное доверие. Но через некоторое время все присутствующие гости были уничтожены. Нарком внутренних дел СССР Ягода был расстрелян в марте 1938 г. Первый заместитель наркома Агранов — в 1937 г. Заместители наркома Прокофьев — в 1937 г., Берман и Фриновский — в 1939 г. Начальники отделов Главного управления Госбезопасности НКВД СССР Молчанов, Паукер, Шанин, Гай — в 1937 г. Слуцкий покончил жизнь самоубийством в 1938 г. Многие другие следователи были уничтожены тогда же вместе со своими начальниками. Всего в 1937–1939 гг. были расстреляны или приговорены к длительным срокам каторжных работ около 20 тысяч чекистов.

Чтобы оправдать массовые репрессии в глазах общественности, Сталин на февральско-мартовском Пленуме ЦК партии в 1937 г. выдвинул тезис: по мере успехов социалистического строительства сопротивление классового врага якобы усиливается, а классовая борьба — обостряется. Этот Пленум по замыслу Сталина должен был привести к выявлению вредителей, двурушников, троцкистов. Центральное место на нем заняло рассмотрение «дела» Бухарина и Рыкова. В докладе Ежова 23 февраля им были предъявлены обвинения в сотрудничестве якобы с иностранными разведками, измене родине, подготовке вооруженного восстания с целью свержения советской власти, террористических актах против Сталина и Ежова и т.д. Бухарин и Рыков категорически отвергли эти обвинения, показав их нелепость и вздорность.

При голосовании резолюции Пленума предложение Ежова исключить Бухарина и Рыкова из партии, предать суду Военного трибунала с применением высшей меры наказания — расстрела не прошло, хотя его и поддержали Буденный, Мануильский, Шверник, Косарев и Якир. Предложение Постышева — предать суду без применения расстрела — поддержали Шкирятов, Антипов, Хрущев, Николаева, Косиор, Петровский и Литвинов. Но Сталин предложил ловкий и тонкий ход: «Суду не предавать, а направить дело Бухарина и Рыкова в НКВД», якобы для дополнительного расследования. Этот вариант поддержали все члены комиссии, избранной Пленумом для выработки проекта резолюции. Тут же, на Пленуме, оба они были арестованы.

С 22 по 29 июня 1937 г. заседает очередной Пленум ЦК партии. На Пленуме снова выступал Ежов. Текст доклада, насколько известно, до сих пор не найден. Сохранились в архиве ФСБ несколько листочков его тезисов. В тезисах перечислялись вражеские заговоры, раскрытые НКВД за последние месяцы. Он связал все эти «заговоры» в один узел неким «центром центров», в который будто бы входили Рыков, Томский, Бухарин, Каменев, Зиновьев, Сокольников, Пятаков, Енукидзе. Главная задача этого вселенского заговора — объединение всех антисоветских сил, «от бывших оппозиционеров до белогвардейцев, включая эсеров и меньшевиков», с целью свержения советской власти. Дальше идет перечень обвинений, который ляжет в основу всех приговоров в ближайшее время: план «дворцового переворота» — физического устранения Сталина и его приближенных. Подготовка военного восстания, которое должно победить при поддержке интервентов из-за границы. В случае войны — подготовка поражения в ней и приход к власти благодаря политическим и территориальным уступкам победителю. Связь с Японией, Германией и Польшей. «Центр центров» ставит все объединенные им оппозиционные группы на службу фашистским разведкам. Готовит диверсантов на случай войны. Организует кадры повстанцев из партизан Гражданской войны, белого казачества, кулаков, спецпереселенцев, уголовников, «бывших» и многих других.

Председательствующий на суде «центра центров» Вышинский потребовал расстрела всех обвиняемых участников заговора: Сокольникова, Смиглу, Рыкова, Бухарина, Томского, Радека, Угланова, Пятакова, Серебрякова, Мдивани, Окуджаву, Смирнова, комкора Примакова, комдива Шмидта.

В ночь с 23 на 24 августа 1937 г. в два часа тридцать минут суд объявил приговор: всем подсудимым смертную казнь через расстрел. По закону осужденные имели 72 часа для подачи жалобы о помиловании. Однако уже утром 24 августа всех осужденных вывели на расстрел. Бывших членов ленинского политбюро, бывших личных друзей Ленина изобразили как бандитов и убийц.

Дочь Смирнова Ольга и жена Роза были тут же арестованы и расстреляны в 1937 г. В том же году были расстреляны сын Зиновьева — Степан Радомысльский, жена Бакаева — Анна Петровна Костина, член партии с 1917 г., брат и племянник Мрачковского, брат Тер-Ваганяна.

Вскоре после расстрела Каменева были расстреляны его первая и вторая жены. Младший сын Каменева Юрий был расстрелян 30 января 1938 г., не дожив одного месяца до 17 лет. В 1939 г. расстреляли старшего сына Александра.

30 июля 1937 г. членам Политбюро был разослан для голосования проект оперативного приказа НКВД № 00447 «Об операции по репрессированию бывших кулаков, уголовников и других антисоветских элементов». В приказе и в сопутствующих постановлениях уже более детально разработано, как осуществлять эту операцию: когда ее начинать, как она должна проходить, кто входит в состав троек, каковы лимиты на аресты и расстрелы, сколько денег выделить на оперативные расходы, на транспорт, на строительство новых лагерей, каких и где нужно построить, сколько нужно прислать из запаса командного состава врачей и фельдшеров в лагеря. 31 июля Политбюро приказ утверждает. С 5 августа разворачивается гигантский масштаб репрессий по всей стране. Пытки летом 1937 г. были официально санкционированы и даже рекомендованы как метод ведения следствия. Подтверждение тому — телеграмма за подписью Сталина, разосланная в январе 1939 г. всем региональным руководителям ВКП(б) и НКВД. В ней прямо сказано: «ЦК ВКП(б) разъясняет, что применение физического воздействия в практике НКВД было допущено с 1937 года с разрешения ЦК ВКП(б)».

В течение 1937–1938 гг. по политическим обвинениям по всей территории страны было арестовано более 3 778 234 человек, а вместе с жертвами депортаций и осужденными «социально вредными элементами» число репрессированных переваливает за 4 миллиона. В процессе репрессий более 786 тысяч арестованных были казнены. Больше всего расстрелянных было в Оренбургской области — более 96% осужденных, в Краснодарском крае и Новороссийской области — более 94%, в Куйбышевской и Волгоградской областях расстреляли более половины, а в Армении и Грузии — меньше трети.

С середины 1937 г. репрессии распространили на людей не только по политическим мотивам. Был издан приказ «о женах изменников Родины» и за принадлежность к людям, живущим в СССР, но этнически относящиеся к народам, основная часть которых живет за пределами СССР, главным образом — в соседних странах. Детей репрессированных насильно отбирали у родителей и помещали в детдома.

Чтобы оправдать массовые репрессии в глазах общественности, Сталин на февральско-мартовском Пленуме ЦК партии в 1937 г. выдвинул тезис: по мере успехов социалистического строительства сопротивление классового врага будет усиливаться, а классовая борьба — обостряться. Этот тезис был выдвинут в условиях, когда в решениях XVII съезда партии было записано, что социализм в нашей стране уже победил, то есть исчезла социальная основа для обострения классовой войны в стране.