Одной из контрреволюционных организаций, шифропереписка которой была впервые дешифрована в 1921 году, был «Народный союз защиты Родины и свободы» Бориса Викторовича Савинкова. Анализом ряда шифрованных документов было установлено, что члены этой организации использовали шифры пропорциональной замены. Вскоре они были раскрыты.

Шифры организации Б. В. Савинкова строились в квадрате 10 Ч 10 или были шифрами по слову на длину алфавита, строки ключа которых чередовались. Фактически выходили ключи к шифру или в прямоугольнике 10 Ч 30, или оказывалась десятизначная перешифровальная гамма. Было раскрыто 26 ключей к шифру и дешифровано более 30 документов, содержавших пароли и конспиративные явки.

В 1922–1924 годах главным образом раскрывались материалы меньшевистских организаций. За эти годы было дешифровано 38 документов и раскрыто 17 ключей к шифру. По этим материалам было установлено 65 адресов с паролями и явками.

Перехватывалась и доставлялась в Спецотдел переписка уголовного розыска Китайской военной железной дороги. Было дешифровано 355 телеграмм, раскрыто 33 ключа к шифру и один код на 900 величин.

6 февраля 1922 года на базе ВЧК было создано Государственное политическое управление (далее — ГПУ) при НКВД. 1 декабря 1922 года был введен новый штат центрального аппарата ГПУ в количестве 2213 человек, в составе которого остался Спецотдел по руководству шифровальным делом в стране, контролю за деятельностью шифровальных органов и ведению радиоконтрразведки.

Начальником Спецотдела остался Глеб Иванович Бокий, его помощником стал Александр Георгиевич Гусев, начальниками отделений — Григорий Карлович Крамфус, Николай Яковлевич Клименков, Владимир Дмитриевич Цибизов. Известно, что Н. Я. Клименков в январе 1922 года был шифровальщиком советской делегации на Генуэзской конференции.

В том же году были сформированы Высшие курсы ГПУ, обучение на которых проводилось в течение шести месяцев. В Положении об этих курсах указывалось, что они ставят своей целью «теоретическую и практическую подготовку опытных и тактичных ответственных работников различных областей работы органов ГПУ». Характерно, что в перечне изучаемых слушателями учебных дисциплин (всего их было 25) 16-й дисциплиной была радиоразведка, 22-й — криптография и 25-й — русский язык и арифметика. На шифровальном отделении экзаменационную комиссию возглавлял Г. И. Бокий.

С той поры органы ГПУ начали принимать строгие меры по соблюдению требований организации шифровальной связи и обеспечению ее безопасности. Спецотдел ГПУ проводил расследование фактов нарушений порядка хранения и использования шифров и предоставлял рекомендации по наказанию виновных чиновников.

Так, в июне 1922 года Спецотдел ГПУ разослал по всем губерниям заключение по поводу небрежного хранения шифродокументов сотрудником Владимирского губернского комитета компартии Щелоковым. Спецотдел рекомендовал наказать нарушителя 15-суточным арестом, причем выполнение дисциплинарного взыскания возложить на Владимирский губернский отдел ГПУ.

Организационный отдел ЦК РКП(б), рассмотрев на заседании 12 июня 1922 года этот вопрос, выразил полное согласие с предложением Спецотдела. Секретарь ЦК И. В. Сталин в сопроводительном письме, прилагаемом к пакету документов о «владимирском инциденте», подтвердил, что и в дальнейшем «за всякое нарушение инструкции по ведению шифропереписки и хранению шифродокументов, равно и за нарушение элементарных правил конспирации — виновные будут привлечены к строжайшей ответственности».

15 марта 1923 года всем местным прокурорам была разослана шифротелеграмма отдела прокуратуры Наркомата юстиции, где говорилось о строгом соблюдении инструкций шифрорганами. «Никакие разговоры о шифре с кем бы то ни было недопустимы без исключения. Виновные в нарушении этого будут привлекаться к ответственности, вплоть до предания суду». Кроме того, сотрудникам, которые имели отношение к шифрорганам, запрещалось посещать иностранные миссии, представительства и торговые консульства, а также иметь знакомства с сотрудниками этих органов.

26 мая того же года был разослан циркуляр Спецотдела ГПУ с предложением максимально упорядочить и законспирировать шифровальную работу, в частности: руководителям взять у лиц, которые имеют дело с шифродокументами, подписку об отсутствии контактов с иностранными миссиями и представительствами. В случае наличия родственников или знакомых в иностранных миссиях сотрудники шифрорганов должны были известить об этом шифровальные отделения по месту работы.

В начале 1923 года в стране были введены новые дипломатические шифры, которые считались советскими криптологами стойкими. Однако русскому криптоаналитику криптослужбы Великобритании Э. К. Феттерлейну понадобилось всего лишь несколько дней, чтобы прочитать их скандальное содержание. Результатом этого стал знаменитый «ультиматум Керзона» с требованием прекратить враждебные действия Москвы против Великобритании.

В опубликованном в мае 1923 года ультиматуме, в котором большевики обвинялись в «подрывной» деятельности, не только буквально цитировались перехваченные советские радиограммы, но и отпускались достаточно недипломатические шутки в адрес «большевиков» по поводу успешной дешифровки перехваченной англичанами их корреспонденции: «В советском Комиссариате иностранных дел наверняка узнают следующее сообщение, датированное 21 февраля 1923 г., которое было получено от Ф. Раскольникова… В Комиссариате по иностранным делам также должны припомнить и радиограмму, полученную ими из Кабула и датированную 8 ноября 1922 года… Очевидно, им знакомо и сообщение от 16 марта 1923 года, посланное Ф. Раскольникову помощником комиссара иностранных дел Л. Караханом…».

Летом в 1923 году Москвой были введены новые шифры и коды, над которыми Э. К. Феттерлейну и его коллегам опять пришлось поломать голову. Но к концу 1924 года они все же опять смогли дешифровать значительную часть советской дипломатической переписки.

6 июля 1923 года на территории бывшей Российской империи было образовано новое государство — Союз Советских Социалистических Республик (далее — СССР) и была принята его Конституция. 2 ноября того же года при СНК СССР было образовано Объединенное государственное политическое управление (далее — ОГПУ), а 15 ноября утверждено «Положение об ОГПУ». На основании этого Положения ГПУ республик были выведены из подчинения республиканских НКВД и переподчинены непосредственно ОГПУ при СНК СССР.

12 ноября 1923 года в соответствии с новым «Положением о НКИД СССР» его шифровальная часть была названа «шифровальной и секретной частью». Она вышла из состава Управления делами и стала структурным подразделением Секретариата Коллегии НКИД. Однако в этот же период происходило сокращение штатов государственных учреждений.

В одном из писем в соответствующие органы 31 июля 1923 года нарком иностранных дел Г. П. Чичерин писал: «На шифрчасти чрезвычайно тяжело отражаются как колоссальные сокращения, произведенные у нас, так и ужасающе низкие ставки… Мы должны признать безграничную преданность тех партийных товарищей, которые в такой тяжелой обстановке тем не менее до изнурения работают, перенося непосильную тяжесть, лежащую на безмерно сокращенной шифрчасти».