Уже в войну важной частью Ваффен-СС стали подразделения СС «Мертвая голова» СС-ТФ (SS-Totenkopfverbande SS-TV), которые были созданы 29 марта 1936 г. для наружной охраны концлагерей. Командиром СС-ТФ Гиммлер назначил Теодора Эйке, который до этого отличился при реорганизации концлагеря Дахау. Эйке за короткий срок удалось реорганизовать систему концлагерей, сведя их количество до семи и строго отобрав персонал СС-ТФ. Летом 1937 г. Эйке свел СС-ТФ к трем полкам: «Верхняя Бавария», «Бранденбург» и «Тюрингия», которые, соответственно, были прикреплены к главным концлагерям Дахау, Заксенхаузен и Бухенвальд. По иронии судьбы, чем более значительную активность развивал Эйке, централизуя систему концлагерей, тем больше рейхсфюрер СС стремился эту систему децентрализовать, не допустив слишком большого усиления Эйке. К тому же концлагеря хотел подмять под себя и Гейдрих. В 1938 г. по приказу Гиммлера было создано хозяйственное управление концлагерей, выведенное из инспекции Эйке и подчиненное непосредственно Гиммлеру. Это управление возглавил энергичный организатор, группенфюрер Освальд Поль.

Вскоре после создания СС-ТФ были взяты на государственное обеспечение. Вермахт отказался признать службу в СС-ТФ за исполнение военной обязанности — это впоследствии имело преимущество для руководства «Тотенкопф», которое могло не опасаться вмешательства вермахта в процесс боевого обучения в СС-ТФ. Крупный знаток истории Ваффен-СС Бернд Вегнер указывал, что непрерывно продолжавшийся (с 1938 г.) процесс слияния задач СС-ФТ и СС-ТФ не был случайным, он соответствовал последовательной милитаризации СС, а также созданию единого «корпуса защиты государства».

СС-ФТ быстро увеличивались: с 1935 г. до 1938 г. к уже существовавшему «Лейбштандарту» добавились эсэсовские «Дойчланд» (Мюнхен) под командованием Феликса Штайнера, «Германия» (Гамбург) под командованием Карла Марии Демельхубера, после аншлюса в Австрии был сформирован «Фюрер» под командованием Георга Кепплера. 17 августа 1938 г. вышел указ Гитлера, по всей видимости, инспирированный Гиммлером, по которому СС-ФТ повиновались всем военным законам и распоряжениям, но политически оставались частью НСДАП и подчинялись Гиммлеру. После войны этот указ некоторые историки окрестили «рождением Ваффен-СС».

Главный смысл учреждения Ваффен-СС состоял в том, чтобы СС смогли доказать свою боеспособность и свою верность Гитлеру на деле, в бою. В противном случае трудно было бы себе представить, как СС, в войну отсиживаясь в тылу и предоставив все делать вермахту, смогла бы претендовать в послевоенной Германии на сколь-либо значительное место в обществе. Нацистское руководство сплошь состояло из ветеранов и героев Первой мировой войны, поэтому оно чрезвычайно ценило боевое товарищество, самоотверженность, героизм, верность воинскому долгу и прочие атрибуты патриотизма и любви к родине. Именно вследствие этого осознанного стремления утвердиться и в собственном мнении, и в мнении других, бойцы Ваффен-СС стали лучшими солдатами войны, «солдатами уничтожения». Как это ни странно, но один из самых жестоких лагерных комендантов, Теодор Эйке, был командиром одного из самых известных и боеспособных немецких фронтовых соединений — танковой дивизии «Мертвая голова», солдаты которой одновременно служили в охране лагерей. Таким образом эсэсовское руководство хотело подчеркнуть, что они лучше всех делали самую тяжелую и опасную работу на фронте и одновременно самую грязную и неблагодарную работу в тылу, перевоспитывая или уничтожая и «внутренних врагов» рейха.

Гитлер сразу оговорил, что войска особого назначения СС будут действовать в составе армейских частей и подлежать их юрисдикции, а в политическом отношении они останутся подразделениями партии. По словам Гитлера, СС будут обеспечивать безопасность рейха изнутри, а вермахт — извне. Вскоре Гитлер оговорил и то, что части СС не должны превышать по численности 10% от состава вермахта мирного времени. В этом соотношении было некоторое преимущество: дело в том, что вермахт, развертывая сразу 56 дивизий (в войну в три раза больше), должен был довольствоваться тем человеческим материалом, который был, а СС могли выбирать. К тому же Гитлер освободил от воинской службы тех молодых людей, которые служили в С.С. За три года желающий вступить в ряды СС должен был пройти путь от соискателя (Staffel-Bewerber) до новобранца (Staffel-Jungmann), от новобранца до кандидата (Staffel-Anwarter), от кандидата до члена отряда (Staffel-Mann), от члена отряда — до полноправного эсэсовца (SS-Mann). Гиммлер придавал большое значение тому, чтобы СС, будучи элитой общества, сами на классы и группы не распадались, но культивировали особое товарищество. В этом товариществе различия в званиях имели только функциональное значение, но никаких преимуществ не давали.

Требования СС к физической подготовке рекрутов были значительно выше, чем в вермахте, зато образованию там уделяли гораздо меньше внимания. Образовательные требования к кандидатам в офицеры в СС были значительно ниже, чем в армии. Вследствие высоких требований к физическим кондициям рекрутов, большая часть солдат Ваффен-СС были из сельской местности, а крестьянам, разумеется, легче преодолевать тяготы полевой жизни; выходцы из деревни во всех армиях мира были лучшими солдатами. Все поступавшие в СС должны были подтвердить свое арийское происхождение, судимым в СС не было места, рекруты должны были иметь железное здоровье. Во время войны Ваффен-СС получили возможность комплектовать свои подразделения из числа этнических немцев, что было недоступно вермахту, в котором служили только граждане рейха. Благодаря этой уловке, части Ваффен-СС отличались от частей вермахта (постоянно страдавшего от недобора призывников) полной комплектацией личного состава.

Главным инспектором зарождавшихся формирований приказом Гиммлера был назначен ветеран Первой мировой войны, офицер Генштаба в отставке Пауль Хауссер. Именно он отвечал за боевую подготовку эсэсовских «отрядов для поручений», а затем Ваффен-СС (с 1940 г.). Хауссер, несомненно, был выдающимся военным педагогом, но действовавшим преимущественно в рамках старой традиции рейхсвера. В избрании и утверждении новых акцентов в процессе боевой подготовки Хауссеру некоторое время противостоял бывший прусский лейтенант Феликс Штайнер, уволенный из армии в 1919 г. и оставшийся не у дел. Единомышленником Штайнера был ветеран мировой войны, бывший командир подводной лодки Кассиус фон Монтаньи.

На Феликса Штайнера большое впечатление произвел опыт Первой мировой войны, а также теоретическая работа Лиддела Гарта «Будущее пехоты», которая окончательно убедила его в том, что будущее не за массовой армией, а за элитными войсками, в совершенстве владеющими оружием и техникой. Такого рода элитные части в рейхсвере были созданы в конце 1916 г. — они представляли собой штурмовые батальоны при каждой армии или эквивалентном соединении. В 1917 г. было сформировано не менее 17 таких батальонов. Они имели те же номера, что и в армии. Штурмовые батальоны включали от одной до пяти штурмовых рот, одну — две пулеметные роты, огнеметную секцию, минометную роту и орудийную батарею. Штурмовые батальоны по своей сути отличались от других частей немецкой армии. С самого начала они считали себя — и были на самом деле — элитными частями. Дисциплина в этих батальонах была необычной — рядовых и офицеров не разделяла традиционная разобщенность. Штурмовые батальоны получали лучшее питание, они были освобождены от скучных будней окопной войны и имели больше возможностей для отдыха. С другой стороны, требования к их воинским способностям были намного выше.