Об этой битве Рокоссовский так написал 5 марта 1948 года: «В связи с прорывом обороны на участке 30-й армии и отхода частей 5-й армии, войска 16-й армии, сражаясь за каждый метр, в жестоких боях были оттеснены к Москве на рубеже: севернее Красная Поляна, Крюково, Истра, и на этом рубеже в жестоких боях окончательно остановили немецкое наступление, а затем перейдя в общее контрнаступление, совместно с другими армиями, проводимое по замыслу товарища Сталина, враг был разбит и отброшен далеко от Москвы».

Под Москвой К. К. Рокоссовский приобрел полководческий авторитет. За битву под Москвой, К. К. Рокоссовский был награждён орденом Ленина. В этот период в 85-м походно-полевом госпитале при штабе армии он познакомился с военврачом 2-го ранга Галиной Васильевной Талановой.

8 марта 1942 года Рокоссовский был ранен осколком снаряда. Ранение оказалось тяжелым – были задеты правое легкое, печень, ребра и позвоночник. После операции в Козельске, был доставлен в московский госпиталь в здании Тимирязевской академии, где проходил лечение до 23-го мая 1942 года. Приехавшая в госпиталь с концертом Валентина Серова влюбилась в него, но генерал не ответил ей взаимностью. 26 мая прибыл в Сухиничи и вновь принял командование 16-й армией. 30 сентября 1942 года генерал-лейтенант К. К. Рокоссовский был назначен командующим Сталинградским фронтом. При его участии был разработан план операции «Уран» по окружению и уничтожению вражеской группировки, наступавшей на Сталинград. Силами нескольких фронтов 19 ноября 1942 года началось проведение операции, 23 ноября кольцо вокруг 6-й армии генерала Ф. Паулюса было замкнуто.

Позже Рокоссовский подвел итог: «…успешно была выполнена задача, связанная с участием войск Донского фронта в общем наступлении, проводимом по замыслу товарища Сталина, вылившаяся в полное окружение всей Сталинградской группировки немцев…»

Руководство по разгрому вражеской группировки Ставка поручила К. К. Рокоссовскому, что являлось проявлением уважения к нему.

31 января 1943 года войска под командованием К. К. Рокоссовского пленили фельдмаршала Паулюса, 24 генерала, 2500 немецких офицеров, 90 тыс. солдат. 28 января он был награждён только что учрежденным орденом Суворова.

Рокоссовский пишет в своей автобиографии: «В феврале 1943 года приказом товарища Сталина назначаюсь командующим Центральным фронтом. Руководил действиями войск этого фронта в великом оборонительном, а затем контрнаступательном сражении, проводимом по замыслу товарища Сталина на Курско-Орловской дуге…»

В феврале – марте 1943 года руководил войсками только что созданного Центрального фронта в Севской операции. Из донесений разведки было ясно, что летом немцы планируют большое наступление в районе Курска. Командующие некоторых фронтов предлагали развивать успехи Сталинграда и провести широкомасштабное наступление летом 1943 года. К. К. Рокоссовский был другого мнения. Он считал, что для наступления нужно двойное, тройное превосходство сил, чего у советских войск на этом направлении не было. Чтобы остановить немецкое наступление летом 1943 года под Курском, необходимо перейти к обороне. Необходимо буквально укрыть в земле личный состав, боевую технику. К. К. Рокоссовский проявил себя блестящим стратегом и аналитиком – на основании данных разведки он сумел в точности определить участок, на котором немцы нанесли главный удар, создать на этом участке глубокоэшелонированную оборону и сосредоточить там около половины своей пехоты, 60 % артиллерии и 70 % танков. Поистине новаторским решением была также артиллерийская контрподготовка, проведенная за 3 часа до начала немецкого наступления. Оборона Рокоссовского оказалась настолько прочной и стабильной, что он смог передать значительную часть своих резервов Ватутину, когда у того на южном фланге Курской дуги возникла угроза прорыва. Его слава уже гремела по всем фронтам, он стал широко известным на Западе, как один из самых талантливых советских военачальников. Очень популярен был Рокоссовский и среди солдат. В составе Центрального фронта в 1943 году был сформирован и вступил в бои 8-й Отдельный штрафной (офицерский) батальон, прозванный немецкой пропагандой «Бандой Рокоссовского».

После Курской битвы Рокоссовский успешно провёл силами Центрального (с октября 1943 года переименованного в Белорусский) фронта Черниговско-Припятскую операцию, Гомельско-Речицкую операцию, Калинковичско-Мозырскую операцию.

В полной мере полководческий талант К. К. Рокоссовского проявился летом 1944 года при проведении операции по освобождению Белоруссии.

Об этом Рокоссовский пишет: «Осуществляя замысел Верховного Главнокомандующего товарища Сталина по разгрому центральной группы немецких войск и освобождению Белоруссии, с мая 1944 года руководил подготовкой операции и наступательными действиями войск 1-го Белорусского фронта…»

План операции разрабатывался Рокоссовским совместно с А. М. Василевским и Г. К. Жуковым. Стратегической изюминкой этого плана было предложение Рокоссовского нанести удар по двум главным направлениям, что обеспечивало охват флангов противника на оперативной глубине и не давало последнему возможности маневра резервами.

Операция «Багратион» началась 22 июня 1944 года.

29 июня 1944 года генералу армии К. К. Рокоссовскому была вручена бриллиантовая звезда Маршала Советского Союза, а 30 июля – первая Звезда Героя Советского Союза. К 11 июля была взята в плен 105-тысячная группировка противника. Когда на Западе усомнились в количестве пленных в ходе операции «Багратион», то И. В. Сталин приказал провести их по улицам Москвы. С этого момента И. В. Сталин стал называть К. К. Рокоссовского по имени и отчеству, такого обращения удостаивался лишь маршал Б. М. Шапошников. Далее войска 1-го Белорусского фронта участвовали в освобождении родной К. К. Рокоссовскому Польши.

Рокоссовский пишет: «В ноябре 1944 года назначаюсь командующим войсками 2-го Белорусского фронта, получив лично от товарища Сталина задачу: подготовить наступательную операцию по прорыву обороны противника на рубеже р. Нарев и разгрому восточно-прусской группировки немцев…»

Командующим 1-м Белорусским фронтом был назначен Г. К. Жуков, и честь взятия Берлина была предоставлена ему.

Рокоссовский спросил у Сталина за что его переводят с главного направления на второстепенный участок. «Сталин ответил, что я ошибаюсь: тот участок, на который меня переводят, входит в общее западное направление, на котором будут действовать войска трех фронтов – 2-го Белорусского, 1-го Белорусского и 1-го Украинского; успех этой операции будет зависеть от тесного взаимодействия этих фронтов, поэтому на подбор командующих Ставка обратила особое внимание. Если не продвинетесь вы и Конев, то никуда не продвинется и Жуков», – заключил Верховный Главнокомандующий.

В качестве командующего 2-м Белорусским фронтом К. К. Рокоссовский провел ряд операций, в которых проявил себя как мастер маневра. Ему дважды приходилось разворачивать свои войска практически на 180 градусов, умело концентрируя свои немногочисленные танковые и механизированные соединения. В результате действий его и соседнего фронта была разгромлена мощная померанская группировка немцев. 1 июня 1945 года Рокоссовскому вручена вторая Звезда Героя Советского Союза.