15 ноября 1923 года ГПУ было преобразовано в Объединенное государственное управление (ОГПУ) уже на союзном уровне при Совнаркоме СССР.

Объединенное государственное политическое управление (ОГПУ) при СНК СССР – орган по борьбе с контрреволюцией, шпионажем, обеспечению государственной безопасности и борьбе с чуждыми Советской власти элементами.

15 ноября 1923 года ГПУ НКВД РСФСР было преобразовано в ОГПУ при Совнаркоме СССР. При этом НКВД сохранил функции по обеспечению общественной безопасности и пресечению бандитизма и иных правонарушений.

Председателем ОГПУ до 20 июля 1926 года являлся Ф. Э. Дзержинский, затем до 1934 года ОГПУ возглавлял В. Р. Менжинский.

ОГПУ было создано в целях объединения усилий союзных республик в борьбе с политической и экономической контрреволюций, шпионажем и бандитизмом. 15 ноября 1923 года было утверждено Положение об ОГПУ, согласно которому на этот орган возлагалось ведение всей разведывательной и контрразведывательной работы, а также борьба с бандитизмом. Для этого предусматривалось подчинение в оперативном отношении ему и его подразделениям на местах органов милиции и уголовного розыска. Так начался процесс слияния органов государственной безопасности и органов внутренних дел.

Председатель ОГПУ назначался Президиумом ЦИК СССР и входил в состав СНК СССР с правом совещательного голоса. Государственные политические управления союзных республик подчинялись ОГПУ.

Следует остановиться на так называемых «тройках» ГПУ – ОГПУ. Это внесудебные органы уголовного преследования. «Тройки» были на уровне республики, края или области. Областная тройка состояла из начальника областного управления НКВД, секретаря обкома и прокурора области. Характерным признаком дел, рассматриваемых «тройками», было минимальное количество документов, на основании которых выносилось решение о применении репрессии. В картонной обложке с типографскими надписями «Совершенно секретно. Хранить вечно» обычно подшиты: постановление об аресте, единый протокол обыска и ареста, один или два протокола допроса арестованного, обвинительное заключение. Следом в форме таблички из трех ячеек на пол-листа идет решение «тройки». Решение «тройки» обжалованию не подлежало, и, как правило, заключительным документом в деле являлся акт о приведении приговора в исполнение.

С момента реформы органов безопасности от 6 февраля 1922 года «тройки» были ликвидированы, но постепенно с 1923 года они воссоздаются и продолжают функционировать вплоть до 1938 года включительно.

В 1920 годы «тройки» сыграли свою положительную роль при борьбе с отдельными преступлениями. Таким положительным примером может служить деятельность «троек» по борьбе с фальшивомонетничеством. 6 апреля 1924 года была направлена шифр-телеграмма прокурорам губернских, областных и автономных республик с разъяснением права органов ОГПУ на внесудебное рассмотрение дел в отношении лиц, занимающихся изготовлением, сбытом и хранением фальшивых денежных знаков, вплоть до вынесения приговора о высшей мере наказания. С 15 сентября 1923 года по 1 марта 1925 года в стране было ликвидировано 174 организации с количеством обвиняемых 1487 человек и ликвидировано 26 мелких дел (58 человек обвиняемых). Общее число обвиняемых по возникшим 200 делам – 1545 человек.

Также Политбюро ЦК 8 июня 1927 года согласилось с тем, чтобы ОГПУ предоставляло «тройкам» право вынесения внесудебных приговоров вплоть до расстрела виновных в преступлениях белогвардейцев. Председатель ОГПУ В. Р. Менжинский 19 июля 1927 года сделал доклад на Политбюро ЦК ВКП(б): «Всего по СССР произведено во время июньской операции до 20 тысяч обысков и арестов. Аресту подвергнуто до девяти тысяч человек». В своем докладе он предложил число расстрелянных ограничить сравнительно небольшой цифрой, передавая дела главных шпионских организаций в гласный суд.

В связи с кризисом хлебозаготовок ОГПУ предпринимались меры по изъятию хлеба у населения, и здесь не обошлось без расширения внесудебных полномочий. Особенно возрастала активность кулацкого белогвардейского контрреволюционного актива, пытающегося встать на путь прямой организованной борьбы, вплоть до попыток подготовки вооруженных выступлений и организации банд. В 1929 году по сравнению с предыдущими годами в стране значительно выросло количество террористических актов. Так, в 1926 году – 711 террористических актов; в 1927 году – 901; в 1928 году – 1027; в 1929 году – 8278. В 1929 году были ликвидированы 7305 контрреволюционных образований, арестованы 95 208 человек. Было закончено следствие по 6221 контрреволюционному образованию; арестовано 81 205 человек. Рост террористических актов происходил за счет активного противодействия хлебозаготовкам и был направлен в основном против деревенского актива, участвующего в их проведении. Стало очевидным, что в условиях пребывания в деревне различных контрреволюционных авторитетов и идеологов, бывших главарей банд, офицерства, атаманов, бывших руководителей белого повстанческого движения происходило их сращивание с озлобленными и ущемленными кулацкими элементами деревни. Встал вопрос о выселении этих элементов из мест проживания. В районах действовали непосредственно специальные районные оперативные группы ОГПУ. Для организации бесперебойной отправки выселяемых создавались сборные пункты. При отправке им разрешалось брать с собой имущество и продовольствие в пределах установленной нормы. Причем в обязательном порядке предлагалось брать с собой топоры, пилы, лопаты, плотницкие инструменты, по возможности хомуты и шлеи, а продовольствия – из расчета на месяц, общим весом не больше 5—30 пудов на семью. Количество выселяемых и места выселения также распределялись. Всего в первую очередь выселяли 14 тысяч человек на Урал, в Казахстан, в Северный край, Сибирь. Для исполнения постановления был издан соответствующий приказ ОГПУ, согласно которому в состав «троек» включались представители крайкомов (обкомов) ВКП(б). К сентябрю 1931 года массовые операции по выселению кулацких семей в отдаленные районы Союза были прекращены. Дальнейшая работа по выселению кулацких семей из районов сплошной коллективизации разрешалось производить в индивидуальном порядке и небольшими группами по мере их выявления. Расселяли кулаков небольшими группами в поселках под управлением комендантов (так называемые трудовые поселки), именуя их при этом «спецпереселенцами» (до 1934 года), «трудпоселенцами» (в 1934–1944 годах), а с 1944 года – «спецпоселенцами».

В августе 1932 года была проведена кампания по борьбе с нарушениями на железнодорожном транспорте. Менжинский просил по отношению к хулиганам, вредящим железнодорожное имущество, нарушающим порядок железнодорожного движения, терроризирующим персонал и производящим бесчинства в полосе отчуждения, предоставить ОГПУ право внесудебной расправы с применением максимум высшей меры наказания, а минимум 6 месяцев концлагеря. Арестовано за хулиганство – 8439 человек. Заведено следственных дел – 4884. Осуждено (на сроки не менее трех лет) – 2092 человек, в том числе к расстрелу – 361 и на 10 лет – 687. В результате этих мер произошло снижение хулиганства. Если в сентябре было зарегистрировано 4434 случая хулиганства, то за 25 дней ноября – 1901 случай.