После продажи лечебницы Маргарет купила земельный участок в Вальтрудеринге, расположенном вблизи Мюнхена. На этом участке молодожены держали около 50 кур. Они продавали яйца и овощи с огорода, что прибавляло денег к жалованию Гиммлера в 200 марок в месяц.

6 января 1929 г. Гитлер назначил его рейхсфюрером СС, отправив в отставку Эрхарда Хайдена, заместителем которого до тех пор был Гиммлер. Хотя официально организация СС входила в штурмовые отряды (СА), главной ее обязанностью была охрана Гитлера и других вождей нацистской партии во время массовых мероприятий.

В 1930 г. Гиммлер стал одним из депутатов рейхстага, но его деятельность в германском парламенте не была значительной.

К этому времени Гиммлер познакомился с Вальтером Дарре, который считался главным специалистом нацистской партии по сельскому хозяйству, и увлекся его книгой «Кровь и почва», изданной в 1929 г. Уроженец Аргентины и выпускник британского королевского колледжа в Уимблдоне, Дарре работал до 1929 г. в министерстве сельского хозяйства Пруссии. В своей книге он объявил германское крестьянство источником жизни арийской расы. Аргументы в пользу расистских теорий Дарре, оперировавшего понятиями из сельского хозяйства, были агроному Гиммлеру ближе, чем рассуждения архитектора Розенберга, опиравшегося главным образом на представления из области искусства. Под влиянием Дарре Гиммлер разработал закон о браке для членов СС, который вступил в силу 31 декабря 1931 г.

Закон обязывал каждого члена СС, пожелавшего жениться, предварительно получить свидетельства о пригодности для него невесты. Она или ее родители должны были предъявить доказательства ее физического и психического здоровья. Врачи СС должны были обследовать невесту на предмет ее способности к деторождению. Арийское происхождение невесты должно быть установлено вплоть до 1750 года: следовало доказать, что в течение 180 лет у нее не было предков, принадлежавших к «низшим» расам.

Одновременно Гиммлер основал школы для невест эсэсовцев, в которых давали уроки политического образования, ведения домашнего хозяйства, гигиены родов, воспитания детей. Так сентиментальное и в то же время снисходительное отношение к женщинам, характерное для юного Гиммлера, постепенно обрело форму жестких правил и норм поведения, опиравшихся на расистскую идеологию.

Одновременно проводился тщательный отбор членов СС на основе расистских принципов. По словам Гиммлера, эсэсовец должен быть «солдатом национал-социалистского ордена арийской расы». Гиммлер лично просматривал портретные снимки кандидатов в СС, выявляя «примеси чуждой крови, чрезмерно выдающиеся скулы». Минимальный рост эсэсовца составлял 170 см. В своих показаниях Международному военному трибуналу в Нюрнберге Гизевиус сообщал: «Члены СС должны были принадлежать к так называемому нордическому типу… Если я не ошибаюсь… признаки, по которым мужчин и женщин отбирали на службу, включали сотни характеристик, доходя чуть не до проверки химического состава пота в подмышках».

Придирчивый отбор членов СС и их супруг создавал впечатление элитарности этой организации. Это обстоятельство привлекло в ее ряды некоторых немецких аристократов. В своих показаниях Международному военному трибуналу в Нюрнберге фон Эберштейн, вступивший в СС в 1928 г., заявил: «До 1933 г. в СС вступали многие аристократы и германские принцы». Он упомянул принца фон Вальдека, принца фон Мекленбурга, принца Липпе-Бистерфильда, генерала графа фон Шуленбурга, архиепископа Грёбрера Фрайбургского, архиепископа Брунсвикского, принца Гогенцоллерн-Зигмарингена.

С просьбой принять на работу в СС к Гиммлеру обратился в 1931 г. недавно уволенный из флота гросс-адмиралом Редером военно-морской офицер Рейнгард Гейдрих. Выходец из семьи профессиональных музыкантов, Гейдрих блестяще играл на скрипке, но отказался от музыкального поприща, отдав предпочтение службе во флоте. Являясь воплощением представлений о «нордическом арийце», Гейдрих был привлекательным молодым человеком для многих юных немок. Это видимо способствовало тому, что он запутался в своих любовных связях. Хотя Гейдрих отдал предпочтение блондинке Лине фон Остен, Редер приказал ему жениться на другой блондинке – подруге Гейдриха, которая была дочерью крупного промышленника и друга гросс-адмирала. Гейдрих женился на фон Остен, и ему пришлось покинуть любимую им службу. А вскоре Гиммлер назначил его руководителем вновь созданного отдела СС, который занимался разведывательной деятельностью в отношении членов нацистской партии и штурмовиков. Отдел получил название «служба безопасности» (Sicherheitsdienst), или СД.

После прихода Гитлера к власти, Гиммлер был назначен полицай-президентом Баварии. Вскоре он распустил правительство Баварии и создал баварское гестапо, поставив во главе этой организации Гейдриха. Следуя примеру Геринга, Гиммлер учредил первый концентрационный лагерь в Баварии – в Дахау, первоначально вместивший 5 тысяч заключенных. Охрану лагеря несло вновь созданное подразделение под названием «Мертвая голова» (Totenkopf). Члены подразделения носили эмблемы в виде черепа и скрещенных костей. Среди охранников были Адольф Эйхман и будущий начальник лагеря в Освенциме Рудольф Хёсс.

Но одновременно Гиммлер вступил в соперничество со всесильным Герингом, который на первых порах руководил осуществлением нацистского террора после прихода к власти. Биографы Гиммлера Роджер Мэнвелл и Генрих Френкель имели основание написать: «Если воспользоваться спортивной терминологией, можно сказать, что в гонке за создание единых полицейских сил Геринг сделал мощный стартовый рывок, но ему не хватило выносливости, чтобы победить. С октября Гиммлер начал прибирать к рукам управления и отделы политической полиции в остальных германских землях и к марту следующего года успешно завершил этот процесс».

При этом назначение эсэсовцев главами местных отделений гестапо проходило без согласования с министром внутренних дел Германии Вильгельмом Фриком. Р. Мэнвелл и Г. Френкель писали: «Фрик пытался запретить землям создавать новые посты и службы без его прямого согласия, но Гиммлер ловко обходил запрет, принуждая министров финансов провинциальных правительств субсидировать действующие на их территориях подразделения СС и концентрационные лагеря или прибегая к иным, столь же изощренным приемам. Очень скоро эта политика принесла свои плоды: паутина, которую плел Гиммлер, накрыла собой всю Германию, и только в Пруссии авторитет Геринга все еще был достаточно высок».

Для того чтобы избежать прямого столкновения с Герингом и в то же время добиться распространения своего контроля над полицией всей Германии, Гиммлер с помощью Гейдриха объявил о раскрытии «коммунистического заговора» с целью убийства Геринга. После произведенных эсэсовцами арестов Гиммлер убедил Гитлера в необходимости передать под контроль СС все полицейские силы Германии. С согласия Геринга прусское министерство внутренних дел было объединено с аналогичным рейхсминистерством. 20 апреля 1934 г. Генрих Гиммлер был назначен новым руководителем гестапо. Его заместителем стал Гейдрих.

Известно, что борьба за власть зачастую ведет к резкому развороту фронта и созданию коалиций со вчерашними врагами. Уже в первые же дни после победы среди нацистов усилились разногласия. Особенно обострились противоречия между нацистской верхушкой и руководством СА. Пребывавший с 1928 г. в Боливии, где он был военным советником в чине полковника, Рем в 1931 г. вернулся в Германию. Гитлер, который к этому времени сам возглавлял штурмовые отряды, предложил Рему стать начальником штаба СА. Рем энергично взялся за реорганизацию штурмовых отрядов, готовя их к гражданской войне в Германии. Мощная организация штурмовиков сыграла большую роль в массовом терроре против коммунистов и других левых сил еще до прихода нацистов к власти.