На место фон Бека был назначен Франц Гальдер. 27 августа 1938 года генерал артиллерии Франц Гальдер вступил в новую должность. Он стал начальником штаба Главного командования сухопутными войсками (ОКХ). Уже к этому времени у него сложилось определенное мнение о Гитлере, и он решил устранить фюрера при помощи переворота.

Для этой цели Гальдер встретился с председателем Рейхсбанка Яльмаром Шахтом и предложил ему сформировать новое правительство. Одновременно он вступил в контакт с командующим 3-м берлинским военным округом генерал-лейтенантом Эрвином фон Вицлебеном, который взял на себя военную часть заговора. Переворот должен был произойти после официального объявления Англией войны Германии. К заговору были привлечены воинские подразделения, в задачу которых входили захват правительственных зданий и арест верхушки НСДАП во главе с Гитлером. Все было готово к свержению нацистов, но переговоры в Мюнхене сорвали заговор. Сам фюрер не подозревал, что он и вся его система были так близки к гибели. В 1969 году, когда английский журналист в интервью с Гальдером коснулся темы Мюнхенского договора, старый генерал вскочил со стула и, показывая на корреспондента пальцем, закричал: «Ведь это ваш, ВАШ премьер-министр не дал нам расправиться с Гитлером еще в 1938 году!!!»

После неудачи Гальдер не отказался от намерения любым способом устранить Гитлера. Вместе с фон Вицлебеном он разрабатывал план нового переворота, по которому к 1940 году в каждом военном округе должны были быть созданы тайные ударные группы, которые по сигналу из Берлина арестуют партийных руководителей и захватят власть в стране. Но пока долг военного призывал Гальдера исправно выполнять свои служебные обязанности. Он продолжал заниматься разработкой оперативных планов вторжения вермахта в соседние страны. После оккупации всей территории Чехословакии Гитлер вынес Гальдеру личную благодарность за великолепно спланированную операцию.

После удачного проведения польской кампании осенью 1939 года Гитлер пригласил в рейхсканцелярию всех командующих группами армий и руководство вермахта. Он объявил, что намеревается напасть на Францию. Это заявление шокировало германский генералитет. Браухич и Гальдер продемонстрировали схемы и выкладки о состоянии войск, снаряжения и боеприпасов, которых хватило бы только недели на две. Но фюрер не желал ничего слушать и назначил дату вторжения во Францию через территории Бельгии и Голландии на 12 ноября.

Гальдер стал разрабатывать новый оперативный план и готовить очередной заговор. Центром действий заговорщиков стала штаб-квартира Генерального штаба в Цоссене. Гальдер планировал после убийства фюрера и отстранения НСДАП от власти сразу же подписать мирный договор с Англией. Германия вновь превращалась в государство с федеративным устройством в границах 1937 года. Покушение на Гитлера состоялось 8 ноября 1939 года. Взрыв в мюнхенской пивной, где было установлено взрывное устройство, оборвал жизнь нескольких старейших членов партии. Гитлер же спасся. Стоял ли за этим взрывом Гальдер или кто-то еще, до настоящего времени не известно.

Тем не менее после этого фюрер перестал кричать на своих генералов, и дата вторжения была перенесена на более поздний срок. (Затем дата вторжения во Францию переносилась еще 14 раз.)

Франц Гальдер снова подчинился приказу фюрера и принялся за разработку детального плана вторжения. Понимая, что для прорыва через укрепленную «линию Мажино» вермахт не располагает достаточными силами, он предложил измененный план Шлиффена 1914 года. Во время предварительного обсуждения плана на встрече с Гитлером фюрер высказал предложение об отвлекающем ударе в Голландии, чтобы оттянуть силы англичан в этот район. Не поддержав плана Гальдера и Браухича, Гитлер велел им пересмотреть его.

Но в результате за основу был взят план фон Манштейна, который в конце октября 1939 года был представлен им на рассмотрение ОКХ. Его план предусматривал заманивание противника на территорию Бельгии и Голландии отвлекающим ударом по этим странам, а затем нанесение главного удара в обход армий противника через Арденны с последующим их окружением. План, получивший название «Гельб», был переработан, а сам его создатель (Манштейн) был отправлен в войска.

В дальнейшем Гальдер и Браухич были отстранены от планирования операций по оккупации Дании и Норвегии. Гитлер, видимо, решил таким образом наказать строптивых штабистов. Но эти операции едва не окончились поражением вермахта, и управление войсками снова вернулось в ОКХ.

После поражения и капитуляции Франции Франц Гальдер был произведен в чин генерал-полковника. К этому времени он уже отошел от участия в заговорах против фюрера.

В июле 1940 года Гитлер объявил о намерении нанести удар по СССР.

После недели раздумий Адольф Гитлер согласился с планом начальника штаба ОКХ и 18 декабря 1940 года подписал директиву «Барбаросса». С небольшими изменениями план Гальдера был принят. Вермахт стал готовить наступление на Советский Союз.

Восточная кампания с самого начала стала развиваться совсем не так, как спланировал ее Франц Гальдер. Если на севере и в центре вермахт достиг значительных успехов, то на юге наступление было сорвано. В этой обстановке Гитлер меняет первоначальный план и приказывает группе армий «Центр» после разгрома противника в Белоруссии передать все свои танковые соединения группам армий «Юг» и «Север». Гальдер, понимая, что это может погубить всю операцию, оспаривал это решение фюрера. Но Гитлер настоял на своем и подписал директиву. После этого Гальдер предложил Браухичу вместе подать в отставку. Браухич с большим трудом смог отговорить своего начальника штаба от столь резкого решения. Вскоре Гальдер добился продолжения наступления на Москву, но было уже слишком поздно.

После провала операции «Тайфун» фон Браухич вместе с другими генералами и фельдмаршалами был отправлен в отставку. Франц Гальдер, которого Гитлер недолюбливал и к которому с каждым днем относился все хуже, остался на своем посту начальника Генерального штаба.

Окончательный разрыв Гальдера и Гитлера произошел весной 1942 года. Гальдер открыто выступал против одновременного наступления немецких армий сразу в двух направлениях – на Волгу и Кавказ. Он позволил себе кричать на Гитлера в присутствии всего штаба Ставки, обвиняя его в неумении руководить военными действиями и планировать наступательные операции. А когда Гитлер стал рассуждать о полном разгроме Советского Союза, Гальдер не выдержал и сказал фюреру, что его полководческие решения не имеют ничего общего с реальностью, так как военный потенциал СССР гораздо мощнее немецкого и русские выпускают по 1200 танков в месяц, что Германии не под силу. В ответ Гитлер приказал Гальдеру замолчать и через месяц снял его в должности начальника штаба ОКХ.

После покушения на Гитлера 20 июля 1944 года Гальдер был арестован и отправлен в концентрационный лагерь Флёссенбург, а затем переведен в Дахау. Из лагеря он был освобожден американскими войсками в апреле 1945 года. Против него не было выдвинуто обвинений в военных преступлениях. В дальнейшем он и ряд других немецких генералов работали над подробным отчетом о проведении Германией военных операций в годы Второй мировой войны по просьбе исторического отдела управления армии США.