Однако отбывать срок Туполеву предстояло не на лесоповале. Вернувшись к уже испытанной практике, «врагов народа» из числа авиационных инженеров объединили в созданный в 1939 году на территории ЦАГИ спецтехотдел (СТО), позже переименованный в ЦКБ-29 НКВД, ставшее известным как «Туполевская шарага». Организация состояла из четырех бригад, возглавляемых самим А.Н. Туполевым, В.М. Петляковым, В.М. Мясищевым и Д.Л. Томашевичем. Здесь же в статусе заключенных работал целый ряд и других выдающихся советских конструкторов, в том числе Р. Бартини, А.М. Черёмухин, В.А. Чижевский, А.В. Надашкевич, заведующий кафедрой Харьковского авиационного института профессор И.Г. Неман, будущий создатель космических аппаратов С.П. Королев и другие.

Первым проектом, к работе над которым приступила бригада Туполева, стал четырехмоторный пикирующий бомбардировщик АНТ-57 (ПБ-4).

Информация о данном проекте достаточно противоречива. Так, по утверждению соратника Туполева Л. Кербера, подобная идея была навязана курировавшим работу «шараг» наркомом внутренних дел Лаврентием Берия. По свидетельству же заместителя Туполева С. Егера, проект четырехмоторного пикирующего бомбардировщика большой дальности, в число задач которого, помимо прочего, входило уничтожение крупных боевых кораблей, был предложен самим Туполевым и рассматривался как достаточно жизнеспособный. Согласно техническому заданию, самолет, разрабатываемый под 1050-сильные двигатели М-105, должен был нести бомбовую нагрузку три тонны при возможности поднимать бомбы калибром до 1000 кг на внутренней подвеске и иметь максимальную дальность до 4000 км. Экипаж находился в двух герметичных кабинах. Одной из особенностей проекта при этом была перспектива применения разработанных одним из сотрудников Туполева – А.В. Надашкевичем новых бронебойных бомб калибра 1500 кг в габаритах ФАБ-1000.

Отметим, что подобный проект не только разрабатывался, но и был доведен до серийного выпуска в Германии. 27-тонный He.177 Greif был фактически оснащен четырьмя двигателями, попарно приводящими два воздушных винта и нес до 3000 кг бомб. Правда, на практике заставить тяжелую машину пикировать так и не удалось, и в целом «Грифон» стал одним из самых неудачных самолетов компании «Хейнкель».

Впрочем, предполагаемые габариты ПБ-4 были существенно меньше, а расчетный нормальный взлетный вес – порядка 12 200 кг – был сопоставим с параметрами современных ему двухмоторных бомбардировщиков, в том числе пикирующего немецкого бомбардировщика Юнкерс Ju.88.

Тем не менее в конечном итоге окончательным заданием бригады «103» – такой индекс получила бригада ЦКБ-29 под руководством Туполева – стала разработка скоростного двухмоторного фронтового бомбардировщика ФБ, который должен был иметь скорость не менее 600 км/ч, максимальную бомбовую нагрузку до 2000 кг и максимальную дальность полета 2000 км.

В целом процесс создания нового бомбардировщика оказался крайне непростым. Изначально правительственным заданием предусматривалась постройка трех опытных самолетов с двигателями жидкостного охлаждения: одного с АМ-35А и двух – с М-120ТК. Самолет с моторами АМ-35А должен был иметь максимальную скорость 560 км/ч, потолок 11 000 м и дальность полета до 2500 км, максимально до 3200 км. Два самолета предполагалось оснастить создаваемыми в КБ В.Я. Климова V-образными 18-цилиндровыми моторами М-120ТК с турбокомпрессорами расчетной взлетной мощностью 1850 л.с., с использованием турбокомпрессоров на высоте 10 000 м 1430 л.с. Эти машины должны были при той же дальности развивать скорость на средних высотах – не менее 625 км/ч, на высоте 12 000 метров – 720 км/ч. Потолок должен был достигать при этом 13 000 м. От гермокабин отказались, в состав экипажа входили пилот и располагавшиеся в общей кабине за центропланом штурман и стрелок.

29 января самолет «103» – по обозначению туполевцев АНТ-58 – впервые поднялся в воздух, показав в процессе последующих испытаний скорость 635 км/ч.

Позже был внесен еще ряд изменений – экипаж был увеличен с трех человек до четырех, причем штурман теперь находился в одной кабине с летчиком, а двигатель заменили на АМ-37. Второй опытный самолет «103-У» (улучшенный) поднялся в воздух 18 мая 1941 года, показав обнадеживающие результаты, но уже 6 июля потерпел катастрофу. Впрочем, работу по подготовке к серийному выпуску это не остановило, а НИИ ВВС вынесло заключение, что «самолеты “103” и “103-У” с двумя моторами АМ-37 по своим летно-техническим данным превосходят все известные самолеты этого типа».

21 июля 1941 года А.Н. Туполев был освобожден из-под стражи, хотя сотрудники КБ еще оставались в статусе арестантов. Освобождение сотрудников бригады 103 началось в августе, уже после эвакуации КБ и авиазавода № 156 в Омск и завершилось уже к 1944 году.

Однако трудности с запуском в серию самолета не ограничивались эвакуацией и созданием на новом месте фактически нового завода. Обнаружилось, что так и не удалось устранить недостатки и наладить производство АМ-37.

В качестве замены были выбраны двигатели с воздушным охлаждением М-82, что потребовало очередной переработки конструкции. Летные испытания модификации «103-В» с двигателями М-82 начались 15 декабря 1941 года. Характеристики самолета несколько ухудшились, в том числе скорость снизилась с 610 км/ч, полученной на «103-У», до 520 км/ч. Ход испытаний осложняли и остававшиеся капризными двигатели. Тем не менее в конце декабря Туполев доложил о превосходстве самолета с двигателями воздушного охлаждения, и было принято решение о начале его серийного выпуска.

Даже при снизившихся по сравнению с прототипом данных бомбардировщик по своим показателям входил в число лучших в мире. Получивший в серийном выпуске наименование Ту-2 самолет имел дальность полета более 2000 км, потолок 9000 м, нес до двух (в перегрузочном варианте – до трех) тонн бомб калибра до 1000 кг. Вооружение включало в себя две 20-мм пушки ШВАК и три оборонительных пулемета ШКАС.

Серийный выпуск был начат весной 1942 года. Первые три серийные Ту-2М-82 проходили войсковые испытания – а фактически вели боевые действия – с сентября 1942 года на Калининском фронте. Самолеты получили хорошие отзывы летчиков, оценивших как высокие летные данные и хорошую управляемость, так и мощное вооружение и достаточно большую бомбовую нагрузку. Первыми боевыми частями, принявшими на вооружение новый бомбардировщик, стали 132-й отдельный бомбардировочный авиаполк и 12-й бомбардировочный авиаполк.

Использовались Ту-2 и в качестве воздушных разведчиков – так, активно применявший эти самолеты 2-й авиационный полк дальней разведки Главного командования Красной Армии был 2 февраля 1943 гоода преобразован в 47-й гвардейский авиационный полк дальней разведки Главного командования КА.

Но и тут самолет ждали сюрпризы – после постройки 80 машин серийный выпуск был остановлен, а ценой немалых усилий введенный в Омске в строй завод № 166 в январе 1943 года перепрофилирован на выпуск истребителей Яковлева.

Не желая мириться со сложившейся ситуацией, Туполев принимал все меры, чтобы убедить верхушку наркомата и руководство страны – вплоть до И.В. Сталина – в необходимости возобновления выпуска, одновременно работая над модернизацией самолета. В числе оппонентов Туполева оказался при этом и С. Ильюшин – строительство Ту-2 Туполев предлагал возобновить на авиазаводе № 23, где выпускался самолет Ил-4. В ответ Ильюшин направил письмо наркому А. Шахурину, в котором доказывал, что «нет никаких оснований заменять Ил-4 самолетом Ту-2 М-82». С.В. Ильюшин при этом, впрочем, изрядно кривил душой – применение дальнего ДБ-3Ф (Ил-4) в качестве фронтового бомбардировщика было вынужденной необходимостью первого периода войны, и, несомненно, имевший более высокую скорость и более мощное вооружение Ту-2 для этой роли подходил намного лучше.