В 1921 году Берия подвергался резкой критике со стороны партийного и чекистского руководства Азербайджана за превышение полномочий и фальсификацию уголовных дел, однако серьезного наказания избежал. За него ходатайствовал Анастас Микоян.

Во время проводившейся в декабре 1921 года чистки Азербайджанской партийной организации возник вопрос о службе Берии в «мусаватистской контрразведке». Но Президиум ЦК АКП(б) на заседании, состоявшемся 6 мая 1922 года, принял решение: «Признать работу Берия в АзЧК крайне необходимой, просить ЦК РКП оставить его в Азербайджане…»

В январе 1922 года Берия стал председателем АзЧК. Тогда же участвовал в разгроме мусульманской организации «Иттихад» и ликвидации закавказской организации правых эсеров. Летом 1922 года получил должность заведующего Секретно-оперативного отдела Аз. ЧК.

В ноябре 1922 года Берия переведен в Тифлис и назначен начальником Секретно-оперативной части и заместителем председателя ЧК при СНК Грузинской ССР, позднее преобразованной в Грузинское ГПУ (Государственное политическое управление), с совмещением должности начальника Особого отдела Закавказской армии. В июле 1923 года награжден Центральным исполнительным комитетом Грузии орденом Боевого Красного Знамени республики.

В 1924 году участвовал в подавлении меньшевистского восстания, был удостоен ордена Красного Знамени СССР.

С марта 1926 года – заместитель председателя ГПУ Грузинской ССР, начальник Секретно-оперативной части.

2 декабря 1926 года Лаврентий Берия стал председателем ГПУ при СНК Грузинской ССР (состоял в этой должности по 3 декабря 1931 года), заместителем полномочного представителя ОГПУ при СНК СССР в ЗСФСР и заместителем председателя ГПУ при СНК ЗСФСР (по 17 апреля 1931 года). Одновременно с декабря 1926 года по 17 апреля 1931 года являлся начальником Секретно-оперативного управления Полномочного представительства ОГПУ при СНК СССР в ЗСФСР и ГПУ при СНК ЗСФСР.

Одновременно с апреля 1927 года по декабрь 1930 года – народный комиссар внутренних дел Грузинской ССР.

6 июня 1930 года постановлением пленума ЦК КП(б) Грузинской ССР Берия был назначен членом Президиума (впоследствии Бюро) ЦК КП(б) Грузии. 17 апреля 1931 года занял должности председателя ГПУ при СНК ЗСФСР, полномочного представителя ОГПУ при СНК СССР в ЗСФСР и начальника Особого отдела ОГПУ Кавказской Краснознаменной армии (по 3 декабря 1931 года). Одновременно с 18 августа по 3 декабря 1931 года – член коллегии ОГПУ СССР.

31 октября 1931 года Политбюро ЦК ВКП(б) рекомендовало Л. П. Берию на пост второго секретаря Закавказского крайкома, 14 ноября 1931 года он стал первым секретарем ЦК КП(б) Грузии, 17 октября 1932 – первым секретарем Закавказского крайкома при сохранении должности первого секретаря ЦК КП(б) Грузии, и был избран членом ЦК КП(б) Армении и Азербайджана.

10 марта 1933 года Секретариат ЦК ВКП(б) включил Берию в список рассылки материалов, направляемых членам ЦК, – протоколов заседаний Политбюро, Оргбюро, Секретариата ЦК. В 1934 году на XVII съезде ВКП(б) был впервые избран членом ЦК.

В декабре 1934 года Берия присутствовал на приеме у Сталина в честь его 55-летия.

В начале марта 1935 года Берия был избран членом ЦИК СССР и его президиума. 17 марта 1935 года награжден своим первым орденом Ленина. В мае 1937 года по совместительству возглавил Тбилисский горком КП(б) Грузии (до 31 августа 1938 года).

В 1935 году выпустил книгу «К вопросу об истории большевистских организаций в Закавказье» (его авторство оспаривается, есть версия, что эту книгу для него написали Малакия Торошелидзе и Эрик Бедия). В проекте издания Сочинений Сталина в конце 1935 года Берия указывался в составе редакции, а также кандидатом в редакторы отдельных томов.

Берия внес большой вклад в развитие нефтяной промышленности Закавказья, при нем было введено в строй много крупных промышленных объектов, Грузия была преобразована во всесоюзную курортную зону. На сельскохозяйственную продукцию, производимую в субтропиках (виноград, чай, мандарины и пр.), были установлены высокие закупочные цены, грузинское крестьянство стало наиболее зажиточным в стране.

В сентябре 1937 года вместе с направленными из Москвы Г. М. Маленковым и А. И. Микояном провел «чистку» партийной организации Армении. «Большая чистка» прошла и в Грузии, где были репрессированы многие партийные и государственные работники.

С 17 января 1938 года, с 1-й сессии ВС СССР 1-го созыва, член Президиума Верховного Совета СССР.

22 августа 1938 года Берия был назначен первым заместителем народного комиссара внутренних дел СССР Н. И. Ежова. 8 сентября назначен на должность 1-го заместителя наркома и начальника управления НКВД СССР. С 29 сентября 1938 года Берия поставлен во главе восстановленного в структуре НКВД Главного управления государственной безопасности (17 декабря 1938 года на этом посту Берию сменит В. Н. Меркулов). 11 сентября 1938 года Берии присвоено звание комиссара государственной безопасности 1-го ранга.

25 ноября 1938 года Берия был назначен наркомом внутренних дел СССР.

По мнению многих исследователей, с приходом Л. П. Берии на пост главы НКВД масштабы репрессий резко сократились, Большой террор завершился.

11 октября 1939 года Берия издал Приказ НКВД СССР № 001223, который предписывал в кратчайший срок организовать учет так называемых антисоветских элементов (к таковым, в частности, относились практически все, имевшие хоть какие-то контакты с иностранцами, например, эсперантисты и филателисты, которые переписывались с зарубежными знакомыми, разделяющими их интересы).

С 25 ноября 1938 года по 3 февраля 1941 года Берия руководил советской внешней разведкой (тогда она входила в функции НКВД СССР; с 3 февраля 1941 года внешняя разведка была передана в состав вновь образованного Народного комиссариата государственной безопасности СССР, который возглавил бывший первый заместитель Берии в НКВД В. Н. Меркулов). Под руководством Берии в 1939–1940 годах была создана мощная агентурная сеть советской внешней разведки в Европе, а также в Японии и США.

С 22 марта 1939 года – кандидат в члены Политбюро ЦК ВКП(б).

30 января 1941 года Л. П. Берии присвоено звание генерального комиссара государственной безопасности. 3 февраля 1941 года он назначен заместителем председателя Совета Народных Комиссаров СССР. Курировал работу НКВД, НКГБ, наркоматов лесной и нефтяной промышленности, цветных металлов, речного флота.

С 30 июня 1941 года Л. П. Берия являлся членом Государственного Комитета Обороны (ГКО). Постановлением ГКО от 4 февраля 1942 года о распределении обязанностей между членами ГКО на Л. П. Берию были возложены обязанности по контролю за выполнением решений ГКО по производству самолетов, моторов, вооружения и минометов, а также по контролю за выполнением решений ГКО по работе ВВС Красной Армии (формирование авиаполков, своевременная их переброска на фронт и т. п.).

Постановлением ГКО от 8 декабря 1942 года Л. П. Берия был назначен членом Оперативного бюро ГКО. Этим же постановлением на Л. П. Берию были дополнительно возложены обязанности по контролю и наблюдению за работой Наркомата угольной промышленности и Наркомата путей сообщения.