В 1934 году началось перевооружение армии и создание люфтваффе. Вначале эти меры проводились тайно, то есть о них не объявляли официально. Однако помешать другим странам узнать о том, что происходит, было совершенно невозможно. Все эти разговоры о «тайном» вооружении Германии – чистый блеф. При современных средствах транспорта и связи такие широкие меры не могут оставаться «тайными».

Армия прежде всего заложила основу двадцати четырех дивизий и начала механизацию части кавалерии. Армейский директорат счел, что увеличение войск втрое будет тем максимумом, который возможен при имеющихся в наличии кадрах. Однако Гитлер пошел дальше и 16 марта 1935 года предпринял решительный шаг, вновь объявив введение всеобщего призыва, а также заявил, что в будущем окончательная сила армии будет насчитывать тридцать шесть дивизий. Люфтваффе должны были создаваться заново, в качестве третьего компонента вермахта. Началось поспешное и вследствие этого нескоординированное построение армии. Армейский директорат боялся, что из-за чрезмерной спешки основа армии будет разрушена. Все нужно было делать под высочайшим давлением. Ни строительство казарм, ни, что еще более важно, обучение новых офицеров невозможно было проводить размеренно и планомерно. Высшее командование армии считало, что будет мудрее заполнить существующий костяк двадцати четырех дивизий, чем создавать новые дивизии, раздирая на части уже существующие подразделения.

Гитлер отверг это предложение. Количество должно идти перед качеством. И таким же образом он отверг предложения Верховного командования о сохранении австрийской армией, после того как она войдет в состав германской, старых австрийских традиций, для чего Генеральный штаб счел вполне допустимым позволить австрийской армии некоторую независимость, такую, какой обладала баварская армия до 1918 года. Вместо этого с ними обращались как с остальной частью германской армии. Австрийская армия была распущена, как таковая, и преобразована в два армейских корпуса, а позднее в шесть дивизий. Из-за того, что их размещали в самых разных регионах, использовали их как мобильные войска еще в сентябре 1938 года, а также из-за прочих сложностей австрийские солдаты так и не смогли устроиться на местах вплоть до начала войны. Поэтому их успехи на всех фронтах во время войны нужно ценить особенно высоко.

Осенью 1937 года армия уже имела сорок два боевых соединения; после включения Австрии и Судетской области сила ее возросла до пятидесяти двух действующих дивизий. Они состояли из тридцати пяти пехотных, трех горных, четырех моторизованных, пяти танковых и четырех легких дивизий, вместе с одной кавалерийской бригадой. Даже если принять во внимание то, что в мирное время каждая дивизия в среднем состояла только из половины или трети штатных батальонов и батарей, можно увидеть, что требования армии были чрезмерными. К 1937 году сила армии увеличилась в четыре раза. Каждый полк и батарея должны были разделяться по крайней мере дважды в год, чтобы из их частей могли быть сформированы новые объединения. Такое множественное расчленение нанесло серьезный ущерб не только спаянности армии, но также ее обучению. Недостаток инструкторов усиливал сложности. По этой причине было возможно разрешить даже в мирное время некоторую степень импровизации, которая обычно проявлялась лишь на первых этапах войны.

Приток резервистов поначалу был крайне мал. Это отчасти объясняется тем, что после 1920 года существенно снизилась рождаемость, а отчасти введением уже в 1936 году двухлетнего срока службы.

Особенно поражает то, что за столь короткое время было создано огромное количество механизированных и моторизированных дивизий. Движущей силой армии был созданный в то время инспекторат транспорта, начальником штаба которого являлся Гудериан. Независимо от этого Гитлер поощрял настрой в пользу развития моторов тем, что строил автобаны, учреждал заводы «Фольксваген», а также в значительной степени подталкивал производство автомобилей. Фрич также выступал за моторизацию части армии, но, как и Бек, он считал первой необходимостью сначала обрести опыт, прежде чем окончательно решать насчет экипировки оснащения и числа мобильных дивизий, которые были желательны. Для начала сочли необходимым иметь в виду лимит, определяемый наличием топлива. Между тем военный министр рейха, который в то время поддавался громадному влиянию Гитлера, полностью пренебрег этими мерами предосторожности.

Построение танковых войск происходило под очевидным влиянием британского генерала Фуллера и военного писателя Лиддела Харта. Вначале были созданы большие соединения для оперативного использования, в то время как более мелкие подразделения для тактических целей были привязаны в начале Второй мировой войны к пехоте, позже их поглотили танковые дивизии. Большие соединения были трех типов. Прежде всего это танковые дивизии. Перед ними стояли задачи – совершать прорыв или нападение на фланги или тылы врага. Затем, из-за опасений, что сил пехоты будет недостаточно, чтобы воспользоваться первоначальным успехом, также были сформированы моторизованные дивизии с сильными пехотными подразделениями. И наконец, некоторые легкие дивизии были образованы как третий тип, чтобы взять на себя задачи существовавшей ранее армейской кавалерии. Чуть позже перед началом войны они были преобразованы в танковые дивизии. Первые два типа мобильных дивизий сохранялись до конца войны.

Помимо больших формирований необходимо было значительное число специальных войск. Старая 100-тысячная армия не нуждалась в таких «армейских войсках», без которых не может существовать современная армия, и поэтому было необходимо построить их с нуля. Они состояли из тяжелой и сверхтяжелой артиллерии, саперов, железнодорожных войск, связистов, транспортных и мототранспортных войск. Когда разразилась война, эти силы только стали развиваться, и, поскольку они не могли быть правильно укомплектованы во время войны, германская армия испытывала серьезный дефицит в таких специализированных войсках вплоть до 1945 года. Особенно отставало развитие инженерных войск.

Реконструкция армии мирного времени должна была закончиться в 1943 году. Внутренняя структура армии не могла быть создана до этого времени, также не было возможности раньше обеспечить материальные и кадровые резервы, которые были необходимы для полного подключения вооруженных сил в случае войны. Кроме того, постоянно делались предупреждения, что армия не будет готова к этой дате. Несомненно, Гитлер думал, что такой прогноз слишком пессимистичен. Его отношения с армейским руководством и особенно с Генеральным штабом ухудшались по нарастающей. Он не желал или не мог понять, почему армия вместо того, чтобы использовать наилучший шанс, предоставленный ей, добровольно желала ограничить себя. Помимо тревоги армии за ее качество Генеральный штаб опирался на утверждение, что никакая война не угрожает рейху в ближайшем будущем и что поэтому нет ни малейшей необходимости в такой крайней спешке. Более того, Бек тревожился, может, лишь интуитивно, что слишком быстро увеличивающаяся в численном отношении армия может привести политических лидеров к ложным выводам. Вероятно, это его ощущение имело под собой основания. С другой стороны, будет неправильно из этого замечания делать вывод о том, что строительство армии было «саботировано» Генеральным штабом, наоборот стремившимся как можно лучше укрепить армию.