В середине 1931 года произошла цепочка серьёзных событий. 5 августа в Сочи машину со Сталиным и Ворошиловым задел грузовой автомобиль, водитель которого был пьян.

В середине сентября во время поездки Сталина на озеро Рида один из автомобилей сопровождения упал в реку вместе с мостом. 23 сентября катер, на борту которого находился Сталин, был обстрелян с берега бойцами погранпоста.

Одни историки утверждают, что два последних происшествия инспирировал секретарь Закавказского крайкома партии Л.П. Берия, другие — что это были неуцавшиеся террористические акты, третьи списывают всё на случайность.

По всей вероятности, в конце 1933 года у Сталина мота появиться мания преследования. После того как на «съезде победителей» (26 янв. — 14 февр. 1934 г.) против вождя было подано 292 голоса из 1218, страх перед утратой власти или перед физическим устранением мог стать доминирующим фактором.

Вскоре после убийства С.М. Кирова (1.12.1934 г.) Сталин и его сторонники из числа партийной верхушки принимают решение о применении физического воздействия к врагам партии и государства. Убийство Кирова стало поводом к началу так называемой «большой чистки» в партии, органа госбезопасности, армии, советских и хозяйственных органах. Началом явилось «Кремлёвское дело» 1935 года.

В июле 1935 года на Пленуме ЦК ВКП(б) с докладом «О служебном аппарате Секретариата ЦИК Союза ССР и товарище Енукидзе» выступил секретарь ВКП(б) Н.И. Ежов. В докладе отмечалось, что при попустительстве Енукидзе на территории Кремля была создана террористическая сеть с целью убийства тов. Сталина. По этому делу были осуждены 110 человек: 30 — Военной коллегией Верховного суда и 80 — Особым совещанием при НКВД.

По одной из версий «Кремлёвское дело» инспирировал Г.Г. Ягода с целью взять под контроль НКВД охрану Кремля, которая находилась в ведении Наркомата обороны.

Действия Сталина подтверждают, что он не доверял никому. У него была личная секретная служба так называемого «особого сектора», надёжно замаскированная в структуре аппарата ЦК ВКП(б).

В декабре 1935 года Политбюро ЦК ВКП(б) приняло решение о закрытии особых переправ на границе, организованных руководством НКВД для Коминтерна (компартий Польши, Западной Белоруссии, Западной Украины и Финляндии). «Окна» стали рассматриваться руководством ВКП(б) как каналы проникновения в СССР шпионов и диверсантов. Большинство представителей указанных компартий, оказавшихся на территории СССР (в том числе почти всё их руководство), уже не могли покинуть пределы Советского Союза.

В середине 1936 года начались аресты политэмигрантов, в первую очередь из КП Польши. Около 35 процентов (1275 из 3669) арестованных в СССР за шпионаж обвинялись в принадлежности именно к польским спецслужбам.

26 сентября 1936 года Г.Г. Ягода был отстранен от руководства НКВД и назначен наркомом связи. На его место был назначен Н.И. Бжов. Наступил небезызвестный 1937 год, в котором ключевым стало словосочетание «враг народа».

После назначения Ежова изменения в структуре НКВД сопровождались не только кадровыми перестановками, но и «чистками» в центре и на местах.

В течение 1937–1938 годов практически все руководители оперативных подразделений в РККА, НКВД и во многих структурах Коминтерна в центре и на местах были арестованы. Большинство из них оказались в концентрационных лагерях либо расстреляны.

Некоторые известные специалисты в области нелегальной и диверсионной работы в преддверии неминуемого ареста покончили с собой, защищая своё честное имя и спасая своих близких от неминуемого ареста как ЧСВН — членов семьи «врага народа» или ЧСИР — членов семьи «изменника родины».

Политические процессы 1937 года были шоком для всех военных специалистов, воевавших в Испании.

«В двадцатых числах июня (1937 г.) — вспоминает И.Г. Старинов, — я возвратился из Испании и зашёл к нашему военному советнику Кольману. Затронули многие вопросы. Я заметил, что Кольман мнётся, словно хочет и не решается сказать о чем-то потаённом.

— Что случилось? — напрямик спросил я.

— Ты давно не читал газет?

— Где же я мог их читать?

— А радио тоже не слушал? И ничего не знаешь?

Кольман огляделся, будто опасаясь, что нас подслушивают.

— Одиннадцатого числа состоялся суд над Тухачевским, Уборевичем, Корком, Якиром… Они вели подрывную работу, пытались подготовить наше поражение в будущей войне. Хотели восстановить власть помещиков и капиталистов.

— Что?

Кольман подал мне газету за 13 июня.

Строчки прыгали у меня перед глазами:

“…12 июня сего года суд приговорил подлых предателей и изменников к высшей мере наказания — расстрелу. Приговор приведён в исполнение”.

Как наяву, я увидел перед собой лицо Якира.

“Вам поручается важнейшее партийное дело, тов. Старинов. Надеюсь, вы оправдаете наши надежды”.

Увидел лес под Олевском, аэродром под Харьковом, ночные учения, где Якир с гордостью говорил о советской военной технике. Этот человек — предатель и изменник?! А маршал Тухачевский — бонапартист?!

Эйдеман, Уборевич, Примаков, Путна — прославленные герои Гражданской войны, и все они тоже враги народа? Кольман осторожно взял у меня газету.

— Как же это? — только и мог выговорить я.

— Чудовищно, — согласился советник. Невозможно поверить во всё случившееся…

Да, чудовищный факт налицо. И Кольман и я не могли не верить Сталину, не верить суду.

Не могли не верить, а в сознании не умещалось случившееся»…

22 августа 1938 года первым заместителем наркома внутренних дел СССР был назначен Л.П. Берия. В отличие от Ежова, Берия хорошо разбирался в специфике работы НКВД, поскольку в 1921–1931 годах работал на руководящих постах в органах ЧК — ГПУ — ОПТУ.

«Моя первая встреча с Берией, — писал впоследствии Судоплатов, — продолжалась, кажется, около 4-х часов. Берия проявил большой интерес к диверсионно-партизанскому отряду, базировавшемуся в Барселоне. Позднее я узнал: первое, что сделал Берия, став заместителем Ежова, это перевёл на себя связи с наиболее ценной агентурой, ранее находившейся на связи у руководителей ведущих отделов и управлений НКВД, которые подверглись репрессиям».

Ну а маховик репрессий набрал такие чудовищные обороты, что это стало опасным даже для тех, кто его запустил. И Ежов был снят с должности наркома НКВД, а на его место назначен Л.П. Берия, который руководил ведомством с ноября 1938 года по июнь 1953 года. В 1953 году НКВД возглавил С.Н. Круглов. 13 марта 1954 года был создан Комитет государственной безопасности — КГБ при СМ СССР.

С 1978 года ведомство стало называться КГБ СССР и в таком виде просуществовало до ноября 1991 года.

После назначения Берии Ежов и его заместители (кроме В.В. Чернышева) были арестованы и расстреляны как «лица, допустившие перегибы в вопросах чистки».