Управления гестапо были введены во всех территориальных округах и землях. Они начали вмешиваться даже в дела военной разведки и контрразведки. Постепенно лапы гестапо были наложены и на государственную границу. Пограничные комиссариаты, подчинявшиеся ранее земельным управлениям полиции, были переданы в качестве внешних служб гестапо. Позднее создали специальную пограничную полицию, которая занималась не охраной границ, а выполняла полицейско-государственные функции, выявляя врагов режима и предателей. Подчинялась она III главному управлению гестапо.

На границах гитлеровской Германии опустился «железный занавес». От глаз гестапо не могли ускользнуть даже беженцы. Был введен розыск определенных лиц, осуществлявшийся как на государственном, так и местном уровнях. И здесь нашли широкое применение цветовые гаммы. Карточки розыска кирпично-красного цвета заводились на бежавших заключенных; белого цвета с красной окантовкой на лиц, личности которых подлежали выяснению. Не были забыты и буквенные обозначения: А — подлежит задержанию, В — подлежит задержанию личностей без места жительства, С — выяснить местонахождение, Д — выяснить личность, Е — разыскивается как пропавший, F — потеряны документы, G — подлежит скрытному наблюдению, V — профессиональный преступник, подлежит задержанию.

Розыскная работа гестапо становилась легче по мере узурпации власти полицией. Так, лиц, не имевших гражданства, либо высылали из страны, либо направляли в концентрационные лагеря — с соблюдением соответствующего оформления. Бест 26 июля 1937 года распорядился: «Прием лиц, не имеющих гражданства, в один из подчиненных мне концентрационных лагерей должен осуществляться в соответствии с циркуляром гестапо номер 240. Лагерное начальство после прибытия этого лица направляет мне его удостоверение личности вместе с лагерной карточкой и фотографией».

Такое лицо могло быть выпущено из лагеря только в том случае, если какое-то иностранное государство заявляло о своей готовности принять его у себя.

Имея право отдавать приказы на арест и отправку людей в концентрационные лагеря, гестапо получило мощное оружие. Права и законы не соблюдались, так как ни один судья, прокурор или защитник не мог воспрепятствовать направлению тех или иных лиц за колючую проволоку.

Учреждением, ответственным за отдачу распоряжений на арест, стало главное управление гестапо. Оно могло направить любого немца в концлагерь без указания сроков пребывания там — в обход юридического законодательства. Нижестоящие учреждения гестапо имели право и сами решать такие вопросы, однако срок в таких случаях определялся в семь дней, по истечении которых распоряжение следовало подтвердить. Количество заключенных в концлагерях при Гейдрихе резко выросло. Только за 1935-1936 годы было арестовано более 7000 человек. Тот же Бест заявил: «Любая попытка придерживаться иной политической точки зрения должна рассматриваться как проявление болезни, угрожающей здоровому народному организму, и устраняться, невзирая на субъективную волю ее носителя».

Несмотря на все это, число противников гестапо тоже росло. Юристы и государственные чиновники стремились если не остановить победный марш гестапо, то, по крайней мере, его затормозить. При этом они всеми силами стремились выбить свое любимое оружие — концентрационные лагеря. Имевшие мужество правозащитники, вскрывали творившиеся в концлагерях безобразия и нарушения законов, надеясь на вмешательство высокопоставленных национал-социалистских руководителей.

Находились юристы, которые пытались вмешиваться в деятельность Гиммлера и Гейдриха еще в 1933 году, когда те стали закладывать в Баварии основу будущей системы террора. Прокуратурой земельного суда в Мюнхене был вскрыт целый ряд загадочных случаев смерти заключенных концлагеря Дахау. Юристы обратились 2 июня 1933 года в баварское министерство юстиции и потребовали провести соответствующее расследование, «не взирая на лица». Во второй половине июня того же года зафиксировали смерть четырех узников — Шлосса, Хаусмана, Штрауса и Нефцгера, замученных лагерным персоналом. В конце сентября 1933 года мюнхенская прокуратура настояла на судебно-медицинском вскрытии трупа Гуго Хандшуха. Заключение гласило: «Кровоподтеки от ударов тупыми предметами… приведшими к смерти». В конце октября 1933 года прокуратура попыталась раскрыть причину «самоубийства» заключенных Вильгельма Франца и Дельвина Катца. И в этом случае «вскрытие обоих трупов показало постороннее вмешательство… Смерть наступила вследствие удушения».

Прокуратура и в дальнейшем обращалась в министерство юстиции с ходатайством о проверке лагерных порядков в Дахау и их соответствия правовым нормам. Она выдвинула также обвинение против коменданта лагеря оберфюрера СС Хильмара Ваккерле, лагерного врача Нойернберга и секретаря канцелярии Мутцбауэра, «содействующих подобным порядкам». Гиммлер был вынужден, как говорится, «сдать» коменданта лагеря, но резко выступил против предания состояния дел в лагере огласке и начала судебного процесса. Министру внутренних дел Баварии предложили прекратить расследование преступлений в Дахау «по политико-государственным соображениям».

В дальнейшем Гиммлер запретил доступ прокурорских работников в концлагерь. По его настоянию имперский комиссар юстиции Ханс Франк отдал указание генеральному прокурору «приостановить ход расследования дел в Дахау до последующих распоряжений». Баварская прокуратура тем не менее вышла 12 июля 1934 года с новым ходатайством «продолжить расследование противоправных дел в концентрационном лагере Дахау и установить виновных».

Гейдрих немедленно отреагировал на это, заявив: «Выдвижение мюнхенской прокуратурой нового требования о расследовании положения дел в Дахау свидетельствует, какими методами, притянутыми буквально за волосы, она работает, чтобы приписать этому концлагерю мнимые преступления».

В концлагере поторопились замести следы, а 27 сентября 1934 года обер-прокурор Винтерсбергер прекратил следствие.

Хитрым маневром Гиммлер ухитрился обуздать прокуратуру. Он уговорил ведущего прокурора Вальтера Штеппа вступить в СС с присвоением ему звания гауптштурмфюрера под предлогом предоставить ему возможность разобраться с непорядками в Дахау. Из критика баварского гестапо Штепп превратился в его функционера, став через год заместителем начальника.

Однако и в Пруссии тоже шла борьба против гестаповского произвола в концентрационных лагерях. Первый руководитель прусской тайной государственной полиции Дилс разогнал так называемые «дикие», образованные главным образом штурмовиками концентрационные лагеря. Ему удалось также привлечь к выдвинутой им идее ведения борьбы с политическими преступлениями, используя власть и авторитет министерства внутренних дел, двух сотрудников министерства юстиции, сторонников национал-социализма — обер-прокурора Вернера фон Хааке и прокурора Гюнтера Джоэля. Они образовали центральную прокуратуру, которая стала разбираться в основном с содержащимися там гангстерами из числа штурмовиков.

Отдельные демарши предпринимались и в отношении некоторых учреждений гестапо. Так, например, фон Хааке обрушился на начальника шверинского гестапо штурмфюрера СС Иоахима Хофмана, создавшего по собственной инициативе концлагерь, в котором заключенные подвергались истязаниям (на гестаповском жаргоне — «вулканизировались»). В конце концов Хааке арестовал Хофмана. Как потом вспоминал фон Хааке: «Передо мной оказался человек фанатичного, садистского склада, с необычно замороженными чувствами. Он напомнил мне Гейдриха — не только своей сутью, но движениями и даже жестами».