На самом деле Фрика в это время стали одолевать сомнения, правильно ли было доверить руководство объединенной полицией такому опасному человеку, как Гиммлер, которого он сам же призвал на помощь в борьбе против Геринга.

Сомнения Фрика разделяли и некоторые высокопоставленные чиновники, которые хотя и нашли, как говорится, общий язык с режимом, были недовольны все усиливающейся властью гестапо. По иронии судьбы в состав этой фронды вошли начальник аахенского окружного управления Эггерт Реедер, ставший позже группенфюрером СС, и его кёльнский коллега, штандартенфюрер СС Рудольф Дилс, бывший в свое время любимцем Геринга и одним из организаторов гестапо.

Фрик и эти двое стали, как говорят спортсмены, умело перебрасываться мячом, пытаясь несколько снизить влияние гестапо хотя бы в провинции. 16 июля 1934 года Фрик разослал указание, в котором говорилось, что "независимость гестапо от управленческих структур на местах имеет временный характер и была введена в связи со сложной политической обстановкой в стране из-за вызывавших опасения действий Рёма. "Более того, министр потребовал установления «тесного сотрудничества» управленческих структур с гестапо с постоянной отчетностью перед ними полицейских служб. Тем самым Фрик попытался подчинить ему гестапо.

Редер в августе 1934 года сообщил министру внутренних дел, что «готов принять на себя политическую ответственность за свой округ» и рассматривает начальника государственной полиции как подчиненное себе лицо, выполняющее определенные задачи на порученном ему участке". А Дилс написал Герингу 4 ноября 1934 года: «Отделение политической полиции от государственного управления приведет к осложнениям длительного порядка, которые вам, господин премьер-министр, должны быть известны. Нарушение управленческой целостности вызвано господством партии в государстве… Поэтому необходимо покончить с понятием „политическая целесообразность“, поскольку оно является основой для все более растущего недоверия и недопонимания, которые только затрудняют работу государственного аппарата».

Гауляйтер Восточной Пруссии Эрих Кох потребовал от Фрика вмешательства, пожаловавшись на действия гестапо. 23 сентября 1935 года Фрик обратился по этому поводу к Гиммлеру, заявив: «Считаю сложившиеся ныне отношения между оберпрезидентом Восточной Пруссии и начальником тамошнего управления государственной тайной полиции недопустимыми, поскольку это влияет отрицательно на авторитет государства».

Гиммлер ответил в присущем ему духе: «Фюрер принял решение ничего не менять в управлении государственной полиции Кенигсберга».

Тем не менее государственные чиновники стали оказывать определенное давление на местный полицейский аппарат, что побудило Гиммлера с Гейдрихом обратиться в министерство внутренних дел с предложением выработки нового положения о гестапо.

После многомесячных споров и дискуссий 10 февраля 1936 года положение было, наконец подписано. Хотя оно и подтверждало сложившееся состояние дел, все же в параграфе 5 было сказано:

«Управления государственной полиции подчиняются соответствующим начальникам окружных управлений и должны выполнять их указания, сообщая им о всех проводящихся политико-полицейских мероприятиях».

Этот частичный успех воодушевил чиновников министерства внутренних дел, и они стали оказывать сопротивление Гиммлеру и Гейдриху в неотрегулированных до конца организационных вопросах. Практически, однако, гестапо получило все полномочия. В апреле 1934 года было создано «Центральное бюро политических руководителей полиции земель», которое стало координировать работу земельной полиции с мероприятиями гестапо.

Таким образом, Гиммлер фактически стал полновластным хозяином политической полиции всего рейха. Открытым оставался только вопрос, в какой форме шеф СС мог командовать всей полицией, включая ее гражданские подразделения. Чиновники министерства внутренних дел вынашивали мысль подчинить объединенную полицию своему министру и ослабить позиции Гиммлера, выдвинув на передний план его берлинского конкурента, обергруппенфюрера СС и генерал-лейтенанта полиции Курта Далюге.

Соперник Гиммлера Далюге, будучи начальником прусской земельной полиции, еще в мае 1933 года обдумывал план создания самостоятельной политической полиции. Реформатору Фрику план Далюге понравился, и он стал видеть в нем будущего шефа немецкой полиции. Когда прусское министерство внутренних дел вошло в состав имперского министерства, Фрик назначил Далюге начальником вновь созданного полицейского управления. Стремительный взлет Гиммлера нарушил их планы, тем не менее Фрик дал задание юристам своего министерства разработать структуру объединенной имперской полиции — без главенствующей роли Гиммлера.

Будущую структуру полиции он представлял себе следующим образом: она будет включена в состав министерства внутренних дел. Начальником полицейского управления министерства станет в качестве инспектора Гиммлер, заместителем его — генерал полиции Далюге. Как свидетельствует историк Ханс-Иоахим Нойфельдт, тактика Фрика преследовала цель «предоставить Гиммлеру политико-представительскую роль, тогда как реальное руководство объединенной полицией будет поручено Далюге».

Но Гиммлер отклонил предложения Фрика. 9 июня 1936 года шеф СД Гейдрих от имени рейхсфюрера СС потребовал предоставления тому всей полноты власти. Гиммлер должен был быть возведен в ранг министра с такими же полномочиями, как и командующие родами войск вермахта; впредь именоваться «рейхсфюрер СС и шеф немецкой полиции», что означало бы фактически предоставление ему права командования полицейским аппаратом. Министру внутренних дел он станет теперь подчиняться «лично», но не в служебном плане. Фрик возмутился и направился на прием к Гитлеру, чтобы выразить свой протест. Фюрер успокоил разволновавшегося министра: партайгеноссе Гиммлер ранга министра не получит, а будет лишь присутствовать на заседаниях коллегии министерства в качестве статс-секретаря. Однако Фрик возвратился назад сломленным: Гитлер дал ему понять, что вопрос о назначении Гиммлера уже решенное дело.

Действовать после этого он стал сдержанно, внеся предложение, чтобы партийная должность рейхсфюрера СС была объединена с государственной, то есть с деятельностью шефа немецкой полиции. И все же в своих проектах он после титулов Гиммлера дописывал «имперского министерства внутренних дел». Не изменил он и своего требования получить в качестве своего «постоянного заместителя» Делюге. Шеф СС, в свою очередь, тоже немного сдал назад, отказавшись от министерского ранга и согласившись подчиняться министру внутренних дел «лично и непосредственно», что в национал-социалистской терминологии фактически мало что значило. Согласился он и с назначением Далюге в качестве своего постоянного заместителя, но лишь «в случае его (Гиммлера) отсутствия».

Не успел Гитлер подписать 17 июня 1936 года указ о назначении шефа объединенной имперской полиции, как Гейдрих подсказал Гиммлеру, как следует понимать это назначение. Гиммлер не должен был ограничиваться только полицейским управлением министерства, а потребовать для себя решения вопросов прессы, право на ношение и торговлю оружием, контроля паспортного режима, ведение личных дел не только всех сотрудников полицейского управления, но и начальников полиции округов и районов.