Чем более безнадежным становилось положение рейха, тем острее перед руководством СС вставал вопрос о возможности существования охранных отрядов после Адольфа Гитлера. Из оценки внутриполитического положения в стране было ясно, что народ заинтересован в скорейшем окончании безумной войны, развязанной Гитлером, и жаждет покоя.

В «Сообщениях из рейха» от 10 февраля 1944 года было написано: "Несмотря на все принимаемые меры, противник продолжает продвигаться. Сейчас невозможно даже представить, удастся ли нам когда-либо отбросить его назад, хотя часто и утверждалось, что ему «нанесен сокрушительный удар».

В тех же «Сообщениях» от 6 апреля говорилось: «В состоянии постоянного ожидания высадки войск союзников и связанного с этим возмездия, а также изменения положения на Востоке люди все более задаются вопросом, что произойдет, если мы не устоим. Возникают сомнения, оправданы ли понесенные потери и страдания, вызванные войной, которые все еще продолжаются… Народ все более ждет установления мира».

В «Сообщениях из рейха» от 20 апреля 1944 года можно было прочитать: «Многие люди испытывают усталость от постоянного нервного напряжения, связанного с происходящими на Восточном фронте событиями. Постепенно теряется и надежда на чудо, которое должно решить исход войны в нашу пользу. Войной все уже сыты по горло. Растет желание скорейшего окончания всего этого».

Безусловно, прочтение этих сообщений заставляло многих эсэсовских руководителей задуматься, что же станет с СС в случае катастрофы, когда рухнет все, во что они верили. Собственно говоря, задумываться-то они стали уже давно. Некоторые из них даже представляли Германию без Гитлера. Война разрушила многие их иллюзии, а ежедневная рутина и восточная кампания поколебали тотальную идентичность Адольфа Гитлера и его охранных отрядов. В 1944 году перед большинством власть имущих возник вопрос: стоит ли допустить, чтобы из-за преступного государственного руководства погибло отечество?

Однозначной и одинаковой реакции в рядах СС не было. Мнения расходились — от требований свержения Гитлера до необходимости неукоснительной защиты режима. Так или иначе выкристаллизировались пять групп. Самая малая сформировалась вокруг начальника уголовной полиции Артура Нёбе, друзья которого уже длительное время поддерживали связи с представителями немецкого движения Сопротивления. Среди них были участники заговора 20 июля 1944 года. Вторая группа — это ряд генералов войск СС, которые, не считая необходимым убийство Гитлера, намеревались, отстранив его от власти, начать совместно с вермахтом переговоры с западными союзниками о прекращении военных действий. Вокруг шефа внешней разведки Вальтера Шелленберга, получившего позднее поддержку Гиммлера, сформировалась третья группа. Она собиралась заключить с союзниками сепаратный мир с выдачей им в случае необходимости Гитлера. Самая большая, четвертая, группа состояла из высших эсэсовских чинов — от Вернера Беста до Отто Олендорфа, — выступавших против изменения режима в ходе войны, но считавших возможным реформирование его после войны. В последнюю, пятую, группу входили фанатики — сторонники войны до победного конца, среди которых выделялись преемник Гейдриха — Эрнст Кальтенбруннер и шеф гестапо Генрих Мюллер, жестоко преследовавшие любую критику режима.

Антигитлеровская оппозиция группы Нёбе уходила своими корнями в 1938 год, когда в период Судетского кризиса некоторые антинацистски настроенные генералы вермахта вынашивали идею военного путча и устранения Гитлера, чтобы предотвратить движение к катастрофе. Тогда-то имперский советник доктор Ганс Бернд Гизевиус ввел своего друга Артура Нёбе в кружок сопротивленцев, в который входили вышедший в отставку генерал-полковник Бек и офицер абвера Ханс Остер. Начальник уголовной полиции Нёбе, ставший позднее группенфюрером СС и начальником одного из управлений главного управления имперской безопасности, был тогда настроен несколько скептически, так как усматривал в разговорах и делах Остера и Бека конспиративный дилетантизм.

Легкомыслию, с которым заговорщики почти публично планировали устранение Гитлера, Нёбе противопоставил свое умение заметать следы. Он никогда не выезжал на служебной автомашине на встречу с заговорщиками, а если и выезжал, то оставлял ее за несколько улиц, внимательно осматривая место встречи, и только после этого входил с ними в контакт. Глава сопротивленцев Гёрделер даже не знал, как зовут фюрера СС, передававшего оппозиции информацию о внутриполитическом положении в стране, полученную в главном управлении имперской безопасности. Если Нёбе становилось известным, что на какой-то встрече должен присутствовать Гёрделер, то он на нее не приходил.

Чтобы ни побудило Нёбе примкнуть к сопротивленцам — страх за собственное будущее или забота о стране, — он остался верен фронде. Уже в конце 1941 года Нёбе усматривал в устранении Гитлера единственную возможность освобождения от национал-социалистского режима и снятия своей вины перед народом. С тех пор он постоянно выступал за организацию покушения на Гитлера и держал наготове команду криминалистов, которая должна была в случае начала путча помочь армейским подразделениям, стоявшим на стороне заговорщиков, занять здания берлинских министерств. Такая подготовка требовала привлечения ряда сотрудников полицейского аппарата, среди которых были его друг — штурмбанфюрер СС Ханс Лоббес, заместитель начальника управления уголовной полиции, и даже гестаповец Пауль Канштайн, получивший позднее звание бригадефюрера СС.

Канштайн возглавлял с 1937 года управление гестапо Берлина и стал ключевой фигурой всех антинацистских планов путчистов. Ему удалось установить хорошие отношения, бывшие до того натянутыми, с берлинским полицейпрезидентом графом Вольфом фон Хелльдорфом и его заместителем графом Фрицем фон Шуленбургом. Тем самым он обеспечил свои тылы: берлинская полиция не стала бы выступать против заговорщиков. Если бы покушение на Гитлера 20 июля 1944 года удалось, Канштайн возглавил бы полицию безопасности в послегитлеровской Германии.

Определенные контакты с берлинскими заговорщиками поддерживали штурмбанфюрер СС Хартмут Плаас, оберрегирунгсрат авиационного исследовательского центра Геринга, предупредивший их о начавшейся слежке гестапо; штурмбанфюрер СС граф Ханс Виктор фон Сальвиати, возглавлявший отдел конского поголовья, ставший с 1941 года адъютантом генерал-фельдмаршала фон Рундштедта; эсэсовский фюрер Макс Фрауэндорфер, начальник отдела труда в правительстве генерал-губернатора Польши. Всех их объединяло чувство морального возмущения античеловеческой политикой нацистского режима и самоубийственной манией величия. В своем дневнике фон Хассель отмечал:

«Фрауэндорфер высказывал отчаяние тем, чтo ему приходилось ежечасно и ежедневно наблюдать в губернаторстве, и было столь ужасно, что он уже оказывался не в состоянии этого выдерживать».

Определенное и неафишируемое сотрудничество с некоторыми представителями эсэсовского руководства побудило ряд сопротивленцев к попытке привлечь на свою сторону новых членов этого опасного аппарата, который в день путча станет решать вопрос его удачи или неудачи. У Канариса, например, сложилось мнение, что после срыва целого ряда покушений на Гитлера, следовало бы побудить Гиммлера, проведя с ним «необходимую разъяснительную работу», принять участие в мероприятиях против диктатора. Генерал-фельдмаршал фон Бок заявил в связи с этим, что примет участие в путче, если в нем будет участвовать Гиммлер,