Планировавшееся сокрушение перешедшей в контрнаступление группировки немецких войск требовало все больше сил. 11 марта командующий Центральным фронтом К. К. Рокоссовский приказал 21-й армии начать походный марш в район Курска, где получить боевую задачу от представителя Ставки А. М. Василевского. Тем временем на улицы Харькова входили эсэсовцы двух немецких дивизий.

Главным участником уличных боев за Харьков стала дивизия «Лейбштандарт Адольф Гитлер». Утром 11 марта тремя боевыми группами дивизия начала штурм города со стороны Белгородского шоссе. Наименее удачно действовал 2-й танкогренадерский полк, который был остановлен контратаками 86-й танковой бригады. Второй полк дивизии продвигался быстрее и даже вышел к главной площади города. Однако контратаки 179-й танковой бригады заставили отойти назад. В наихудшем положении оказался разведывательный батальон Курта Майера, атаковавший город с северо-востока при поддержке девяти танков и двух самоходных противотанковых пушек. Вследствие нехватки топлива наступление остановилось. Батальон занял круговую оборону на кладбище, контролировавшем дорогу на Чугуев. Вскоре батальон Майера был окружен оборонявшими город советскими войсками.

К 12 марта Г. Гот поменял свое решение об использовании эсэсовских дивизий в штурме города. Втягивание II танкового корпуса СС в уличные бои означало возможность для защитников города вести бои до тех пор, пока это было целесообразно, а затем без помех покинуть Харьков. Поэтому командующий 4-й танковой армией приказал Хауссеру вывести из боев за Харьков дивизию «Дас Райх», сменить ею «Тотенкопф», бросив последний в обход города с северо-востока. Углубившаяся в город на километр дивизия «Дас Райх» была выведена назад и разорвана на две части. Полк «Дойчланд» был брошен на позиции к северу от города, а «Дер Фюрер» должен был обойти город с юга и атаковать ХПЗ.

День 12 марта прошел под знаком решения Г. Гота на обход Харькова. С севера в обход города двинулась боевая группа Баума дивизии «Тотенкопф», сосредоточившаяся к вечеру в Байраке. К югу от города изменил вектор своего наступления XXXXVIII танковый корпус. Теперь он должен был атаковать в направлении Чугуева с целью охвата Харькова с юга. Однако наступление 11-й танковой дивизии с плацдарма у Змиева было неудачным, дивизию встретил сильный огонь артиллерии и противотанковых орудий. На помощь XXXXVIII корпусу выдвигалась 106-я пехотная дивизия.

После вывода из города «Дас Райха» дивизия Дитриха продолжила штурм города в одиночку. Уличные бои за крупный город всегда были непростой задачей. Бичом немецких танков и самоходных орудий стали 76,2-мм пушки, которые оборонявшие город советские войска устанавливали в подвалах и вели огонь вдоль улиц. В результате к ночи с 11 на 12 марта в «Лейбштандарте» числилось всего 17 Pz.IV и 6 Pz.III. Все «Тигры» были в ремонте разной степени сложности, а два «Тигра» были потеряны безвозвратно. Для уличных боев в «Лейбштандарте» были организованы штурмовые группы, каждая из которых поддерживалась танком и 75-мм и 150-мм тяжелыми пехотными орудиями. Гренадеры 1-го полка «Лейбштандарта» продвигались вперед квартал за кварталом, уничтожая огневые точки огнем танковых или пехотных орудий. Вскоре они вышли к центральной площади города. Двигавшийся параллельным маршрутом 2-й танкогренадерский полк «Лейбштандарта» также постепенно вышел к Красной площади города. Батальон Пайпера вновь должен был выручать окруженных — разведывательный батальон Майера на кладбище. На этот раз он лидировал в наступлении всего танкогренадерского полка.

Средств для противодействия обходу города после убытия в 40-ю и 69-ю армии корпусов Вовченко и Баданова в распоряжении командующего 3-й танковой армией не было. Единственным резервом в руках П. С. Рыбалко был 18-й танковый корпус Б. С. Бахарова. Корпус можно смело назвать ветераном «Скачка» и «Звезды». Обе операции он прошел от взлета до падения. Сосредотачиваясь для контрудара совместно с 2-м и 3-м гвардейским танковыми корпусами и возвращаясь обратно в Чугуев, 170-я бригада корпуса успела намотать на гусеницы 11 марта лишние 80 километров и сжечь 8 тонн горючего, так и не увидев противника.

Однако вскоре 18-му корпусу пришлось вступить в бой с эсэсовскими частями. Боевая группа Баума (в которую входил батальон танкового полка дивизии «Тотенкопф») 13 марта вышла к Рогани, где успешно обратила в бегство части 113-й стрелковой дивизии. Однако на пути дальнейшего продвижение эсэсовцев «Тотенкопфа» встали части корпуса Бахарова. В бою за Рогань корпус заявил об уничтожении 5 танков противника огнем своих танков и 12 — артиллерией. Приданный 141-й танковый полк заявил об уничтожении еще 3 немецких танков ценой потери 1 Т-34 и 1 Т-70. В полку оставался 1 Т-34 и 4 Т-70. Ночью 14 марта 18-й танковый корпус получил приказ подчинить себе 173-ю отдельную бригаду Мишулина и выбить противника из Рогани и выйти на северо-восточную окраину Харькова. В 8.00 после залпа двух дивизионов PC 2 танка Т-34 и 4 Т-70 с десантом мотострелков пошли в атаку и выбили немцев из Рогани южной. Однако в 14.00 контратакой, поддержанной танками, были отброшены назад. Совместно с 113-й стрелковой дивизией корпус занял оборону на полпути к Чугуеву, в Каменной Яруге. Согласно докладу командира корпуса, в боях за Рогань 13 и 14 марта было подбито 18 танков противника, 2 бронетранспортера и 7 автомашин. 173-я танковая бригада отчиталась о 13 танках, 15 орудиях ценой потери 12 Т-34. На 14 марта бригада насчитывала 7 танков. На следующий день, 15 марта, полк Баума начал наступление на Чугуев при поддержке авиации. Лидировал в наступлении батальон полка на БТР «Ганомаг». Традиционно наступление поддерживали 20-мм счетверенные установки автоматических зенитных пушек, обрушившие шквал огня на дома, стоящие на окраинах. Снаряды зениток легко пробивали стены строений. К ночи 16 марта боевая группа Баума вышла к Чугуеву.

Корпус Б. С. Бахарова мог задержать смыкание кольца вокруг Харькова на сутки или двое, и эту задачу он в целом выполнил. Поняв, что избежать окружения города не удастся, командующий 3-й танковой армией 15 марта принял решение вывести окружаемые в городе и его пригородах соединения. Радиосвязь с частью соединений отсутствовала, поэтому в приказе П. С. Рыбалко содержалось предписание по его получении информировать своих соседей. 62-я гвардейская стрелковая дивизия получила приказ первой в 14.00 15 марта. 179-я танковая бригада и 17-я бригада войск НКВД получили приказ в 19.00 того же дня. 19, 303-я и 350-я стрелковые дивизии, 104-я стрелковая и 86-я танковая бригады приказа не получили вследствие выхода из строя раций. Благодаря приписке «информировать соседа» приказ в конце концов был получен всеми соединениями. Так находившийся при штабе 19-й стрелковой дивизии генерал-майор Белов, руководивший обороной города, получил информацию об отходе из штаба 62-й гвардейской стрелковой дивизии. Е. Е. Белов принял решение пробиваться в направлении на юго-восток, между Змиевом и Чугуевом. Прорыв должен был осуществляться двумя группами. В первую входили 303-я и 350-я стрелковые дивизии, 17-я бригада НКВД, во вторую— 19-я стрелковая дивизия, 253-я и 104-я стрелковые, 86-я и 195-я танковые бригады. Прикрывать отход должна была 62-я гвардейская стрелковая дивизия. Прорыв был осуществлен в целом успешно, и к 17 марта защитники Харькова сосредоточились на восточном берегу реки Северский Донец. В ходе прорыва погибли командир 17-й бригады войск НКВД полковник И.А. Танкопий и командир 62-й гвардейской стрелковой дивизии гвардии генерал-майор Г. М. Зайцев. В состав 3-й танковой армии поступил 1-й гвардейский кавалерийский корпус, и при его поддержке армия организовывала оборону восточнее Харькова. Стабилизации обстановки способствовало изменение направления движения II танкового корпуса. Корпус сдавал позиции в районе Харькова XXXXVIII танковому корпусу и разворачивался для наступления на север.