Генеральный штаб возвратился в Москву в конце ноября, включившись в подготовку контрнаступления, однако, поскольку Б. М. Шапошников заболел, обязанности начальника Генштаба были временно возложены Сталиным на Василевского.

С июня 1942 г. до февраля 1945 г. Василевский возглавлял Генеральный штаб, будучи одновременно (с октября 1942 г.) заместителем наркома обороны СССР. Принимал участие в разработке и реализации крупнейших стратегических операций Великой Отечественной войны.

Совместно с Г. К. Жуковым стоял у истоков замысла по окружению и разгрому немецко-фашистских войск под Сталинградом. В ходе операции «Уран» в качестве представителя Ставки ВГК координировал действия советских фронтов. В критический момент сражения, когда немцы предприняли попытку деблокировать армию Паулюса контрударом группировки Манштейна, Василевский добился принятия и осуществления решения переключить 2-ю гвардейскую армию на Котельническое направление для срыва замысла врага, несмотря на сомнения Верховного и категорические возражения К. К. Рокоссовского и Н. Н. Воронова. В январе 1943 г. Василевский координировал действия советских фронтов в успешной наступательной операции на Верхнем Дону.

Вклад Генерального штаба и лично А. М. Василевского в перелом событий на фронте был настолько значительным, что Сталин в начале 1943 г. дважды присваивал ему очередные звания, сначала генерала армии, а спустя всего месяц – Маршала Советского Союза.

В 1943 г. А. М. Василевский активно участвовал в подготовке и осуществлении разгрома противника на Курской дуге. Вместе с Г. К. Жуковым отстоял замысел проведения Курско-Орловской битвы на основе варианта преднамеренной обороны с последующим переходом в контрнаступление. Василевский стал непосредственным свидетелем ожесточенного танкового сражения под Прохоровкой, наблюдая его с командного пункта 5-й гвардейской танковой армии. В отправленной им через день Сталину телеграмме говорилось: «Вчера сам лично наблюдал к юго-западу от Прохоровки танковый бой наших 18-го и 29-го танковых корпусов с более чем 200 танками противника. В результате поле боя в течение часа было усеяно горящими немецкими и нашими танками. В течение двух дней боев 29-й танковый корпус (армии) Ротмистрова потерял безвозвратными и временно выбывшими из строя до 60 % и 18-й танковый корпус – 30 % танков». Курская битва, в которой вермахт потерял 30 дивизий и свои лучшие танковые войска, завершила коренной перелом в Великой Отечественной войне.

А. М. Василевский принимает капитуляцию генерал-майора Альфонса Хиттера. Витебск, 28 июня 1944 г.

В 1944 г. в ходе освобождения Крыма Василевский координировал действия 4-го Украинского фронта, отдельной Приморской армии, сил Черноморского флота и Азовской военной флотилии; при освобождении Правобережной Украины – действия 3-го и 4-го Украинских фронтов; при освобождении Белоруссии (операция «Багратион») и Прибалтийских республик – действия 3-го и 2-го Белорусских фронтов, 1-го и 2-го Прибалтийских фронтов.

В войсках Александр Михайлович проводил львиную долю времени: из 34 месяцев войны на посту начальника Генерального штаба он 22 месяца находился на фронтах, не переставая одновременно направлять работу Генштаба, что свидетельствует о его высочайшей организованности и работоспособности.

Василевский поддерживал молодых и талантливых военачальников: это он заметил выдающиеся способности начальника штаба фронта А. И. Антонова, пригласил его на работу в Генштаб, добился у Сталина доверия к нему. Благодаря Василевскому командующим 3-м Белорусским фронтом был назначен молодой талантливый генерал И. Д. Черняховский.

После гибели Черняховского А. М. Василевский был назначен командующим 3-м Белорусским фронтом (февраль 1945-го) и одновременно членом Ставки ВГК. На посту начальника Генштаба по рекомендации самого Александра Михайловича его сменил А. И. Антонов.

Перед войсками 3-го Белорусского фронта стояла задача разгромить Восточно-Прусскую группировку противника и взять Кенигсберг. «Вступив в командование фронтом, – вспоминал заместитель Василевского И. Х. Баграмян, – за считанные дни (Александр Михайлович) полностью изучил ситуацию, выявил те звенья оперативной цепи, ухватившись за которые можно было вытянуть ее полностью, то есть ликвидировать Восточно-Прусский плацдарм. Он с твердостью, присущей только очень волевым военачальникам, наметил последовательность действий. Сначала разгром Хейльсбергской группировки, затем штурм Кенигсберга, и наконец, сокрушение войск врага на Земландском полуострове. Поручив мне все, что было связано с подготовкой штурма Кенигсберга, он, казалось, весь ушел в организацию Хейльсбергской операции и руководил ею с необычайной конкретностью и скрупулезностью. Как только развязка в Хейльсберге стала зримой, Александр Михайлович переключился на Кенигсберг и в короткий срок завершил разгром Восточно-Прусской группировки противника».