Поликарпов, естественно, сознался в «содеянном» и вскоре был приговорен к смертной казни. Однако квалифицированных конструкторов в стране и так катастрофически не хватало, поэтому уже приготовившегося к смерти конструктора после двух месяцев ожидания расстрела (без отмены или изменения приговора) неожиданно направляют в так называемую «шарашку» – Особое конструкторское бюро (ЦКБ-39 ОГПУ), организованное в Бутырской тюрьме специально для «врагов народа». Уже летом 1930 года контору перевели ближе к производству – на Московский авиазавод № 39 имени Менжинского. Первоначально КБ располагалось в охраняемом «ангаре № 7» возле аэродрома. Помещение было разделено перегородкой на две части: в одной находилась жилая зона, в другой – непосредственно конструкторское бюро.

Здесь совместно с другими «вредителями» в количестве около 300 человек и своим давним знакомым Дмитрием Григоровичем Поликарпов в лихорадочной обстановке начал работу над бипланом И-5. Оба понимали, что, если не сделают хороший самолет, им придется плохо. О том, кто они и в каком находятся статусе, конструкторам постоянно напоминали. В 1931 году коллегия ОГПУ, пересмотрев дело Поликарпова, приговорила его к 10 годам лагерей. Но после удачного показа Сталину, Ворошилову и Орджоникидзе истребителя И-5, эффектно выполненного летчиком Валерием Чкаловым, было решено считать приговор в отношении конструктора условным. 23 июня 1931 года сам Сталин в одном из выступлений осудил травлю «специалистов старой школы». Эти слова вождя сыграли поворотную роль в судьбе конструктора. Уже в июле того же года Президиум ЦИК СССР принял решение об амнистии группы лиц, в том числе Поликарпова. В результате последний, буквально чудом избежав сначала смерти, а потом отправки в ГУЛАГ, смог вернуться к нормальной работе.

Тем временем руководство страны и ВВС, недовольное результатами работы разрозненных и конкурирующих между собой конструкторских бюро и заводов, в 1931 году приступило к реорганизации опытного самолетостроения. Все проектирование было решено централизовать в едином конструкторском бюро – ЦКБ Центрального аэрогидродинамического института (ЦАГИ). Поликарпов получил назначение на должность заместителя начальника бригады № 3 П.О. Сухого. Именно здесь в середине 1932 года было получено задание от управления ВВС РККА на разработку и проектирование двух новых истребителей, один из которых планировался как скоростной, а второй как «маневренный».

Данная постановка проблемы была не случайной. Дело в том, что в мировом авиастроении на рубеже 20–30-х годов наметилась маленькая революция. На смену бипланам пришли монопланы – самолеты с одним крылом и улучшенной аэродинамикой. Постоянная борьба за скорость – важнейшая черта авиации, особенно истребительной. Переход к монопланам, да еще и с убирающимися шасси позволил сделать резкий прорыв в этой области. Но при этом самолетостроители и испытатели столкнулись с неожиданной проблемой: с ростом скорости ухудшилась маневренность, так как увеличился радиус, а следовательно, и время выполнения горизонтального виража. Маневренные же истребители бипланной схемы с малым временем разворота имели меньшую скорость вследствие большего лобового сопротивления. А с учетом того, что монопланам во время воздушных боев неизбежно пришлось бы биться и с бипланами, большой прирост скорости, как казалось, создавал некоторые тактические проблемы.

Тогда-то военные и нашли компромиссное решение этой задачи в одновременном развитии как скоростных истребителей-монопланов, так и усовершенствованных маневренных бипланов. По принятой в начале 30-х годов доктрине предполагалось, что монопланы должны догонять противника и навязывать ему бой, а бипланам предстоит продолжать его на горизонтальном маневре. У этой проблемы было, конечно, и другое решение – перевести бой в вертикальную плоскость, то есть построить тактику истребителей монопланов на атаке противника сверху-сзади и снизу-сзади с последующим резким набором высоты либо переходом в пикирование. Однако для советской авиации это было нереально из-за отсутствия достаточно мощных авиационных двигателей.

Итак, бригада № 3 ЦКБ ЦАГИ приступила к выполнению задания. Начальник Павел Сухой занялся собственным проектом, первоначально получившим название АНТ-31, а позднее И-14. А Николаю Поликарпову была поручена работа сразу над двумя проектами. Во-первых, модифицировать уже выпускавшийся истребитель И-5, во-вторых, начать рабочее проектирование истребителя-моноплана, первоначально получившего обозначение ЦКБ-12.

Проект открывал новый период советского самолетостроения. Во-первых, истребитель должен был стать одним из первых серийных самолетов с убирающимися шасси, во-вторых, первым боевым самолетом с планируемой скоростью свыше 400 км/ч, что по меркам начала 30-х годов было большим достижением.

В качестве примера для подражания для новой машины, по всей вероятности, послужили новинки американского авиапрома, в частности истребитель «Боинг» Р-26.

Однако не успел Николай Николаевич всерьез развернуться, как в структуре опытного самолетостроения произошла новая реорганизация. Структура ЦКБ ЦАГИ к концу 1933 года постепенно стала чересчур громоздкой, обросла множеством специализированных подразделений, управлять ее работой оказалось сложно. В связи с этим 13 января 1933 года на Московском авиазаводе № 39 было образовано Центральное конструкторское бюро для проектирования и производства легких самолетов. Начальником ЦКБ и одновременно заместителем директора завода был назначен С.В. Ильюшин.

Бюро состояло из самостоятельных конструкторских бригад, специализировавшихся по типам самолетов, вооружению, технологии и проведению различного рода испытаний. Бригада № 1 во главе с С.А. Кочергиным занималась самолетами-разведчиками и штурмовиками, бригада № 2 во главе с Н.Н. Поликарповым – истребителями, бригада № 3 В.А. Чижевского – экспериментальными работами и проектированием дальнего бомбардировщика, бригада № 4 Я.И. Мальцева – проектированием вооружения, бригада № 5 Г.М. Бериева – морскими самолетами и т. д.[http://www.airforce.ru/history/chronology/1933.htm] Организация ЦКБ завершилась 15 февраля 1933 года.

Переезд несколько затянул работы над новыми машинами. В результате первый эскизный проект ЦКБ-12 был подготовлен Поликарповым только в апреле 1933 года. Разрабатываемый самолет имел три принципиальные особенности: малые геометрические размеры и очень небольшие моменты инерции относительно всех трех осей, а также небольшой запас продольной статической устойчивости на планировании вкупе с очень малым полетным весом. В качестве силовой установки Поликарпов предлагал использовать американский звездообразный двигатель Wright Cyclone R-1820-F3, по поводу которого советская сторона вела переговоры о лицензионном производстве на территории СССР. Однако на стадии разработки конструкторам пришлось довольствоваться более старым, но уже хорошо освоенным другим мотором, имевшим обозначение М-22. Это был девятицилиндровый мотор Bristol Jupiter мощностью 480 л. с., ранее устанавливавшийся на истребитель-биплан И-5.

Вообще, найти двигатель для нового самолета было не так-то просто, да и выбора особого не было. К началу 30-х годов в распоряжении конструкторов имелись, по сути, два подходящих агрегата: упоминавшийся выше лицензионный М-22, а также еще более старый немецкий лицензионный BMW VI, выпускавшийся в СССР под индексом М-17. Качество и характеристики моторов также оставляли желать лучшего. Ведь решение проблемы в смысле техническом, то есть копирование импортных образцов с приемлемыми техническими данными, еще не означало решения этой задачи в технологическом отношении. Освоенную модель еще надо было поставить на поточное производство, добиться эффективного использования сотен моторов, собранных не специалистами моторостроительных КБ, а рядовыми работниками серийных заводов, причем эффективно работать эти моторы должны были в руках неквалифицированных мотористов строевых частей. Это была очень непростая задача, удовлетворительно решить которую советским моторостроителям более или менее удалось лишь к середине 30-х годов. До этого момента значительная часть авиадвигателей просто импортировалась. Например, в 1928 году 70 % моторов, стоявших на самолетах ВВС РККА, были изготовлены за рубежом[Мухин М.Ю. Указ. соч. С. 105.].