Поощрение за умело проведенный процесс не заставило себя ждать. В мае 1931 года Вышинский получил вожделенный пост прокурора РСФСР и почти сразу стал заместителем наркома юстиции России. Наркомом был Крыленко. Через два года Вышинский стал еще и заместителем прокурора СССР.

Вышинский был прирожденным юристом, прекрасно образованным, разносторонне одаренным, с блестящей памятью, с ораторским даром. Он пользовался популярностью среди профессионалов и широкой публики. Сидел он в кабинете на пятом этаже здания прокуратуры на Пушкинской площади. «В начале тридцатых, — пишет Аркадий Ваксберг, — всякий мог попасть на прием к Вышинскому. Он выслушивал посетителей, давал указание разобраться. Но политическими делами не занимался».

Академик Вернадский пытался спасти своего друга князя Дмитрия Ивановича Шаховского, деятеля земского движения, одного из создателей партии кадетов, министра государственного призрения во Временном правительстве. После революции он работал в Госплане. Его арестовали, когда ему было за семьдесят. Вернадский написал Вышинскому: «То, что случилось с ним, и так же просто и легко могло случиться с каждым из нас — с Вами и со мной, вполне вытекает из того положения, которое было создано в нашей стране…»

Андрей Януарьевич в глубине души наверняка был согласен с Вернадским — он так же, как все, вздрагивал ночью от резкого звонка в дверь, но именно поэтому не хотел рисковать своей жизнью и вмешиваться в дела госбезопасности. Шаховского расстреляли, сообщив родным, что его приговорили к десяти годам без права переписки. Вернадский обратился к Берии с просьбой о снисхождении. После этого из НКВД Вернадскому сообщили, что на самом деле Шаховской умер «от эндокардитного паралича сердца в дальних лагерях».

А Вышинский шел в гору. Он все больше нравился Сталину.

В августе 1933 года уголовно-судебная коллегия Верховного суда СССР рассматривала дело бывших сотрудников Союзсельмаша, Укрсельмаша, Союзсельхозтехники и завода «Коммунар», которых обвиняли в некомплектной отгрузке комбайнов. Обвинителем на процессе выступал заместитель прокурора СССР Вышинский. Среди прочего он сказал: «Мы обязаны, невзирая на учреждения и лица, их возглавляющие, показать те действительно черные точки, которые говорят о большом неблагополучии системы работы кое-каких весьма важных государственных учреждений. Я говорю о Наркомате земледелия Союза, в первую очередь в лице Сельхозснаба, я говорю о Наркомате тяжелой промышленности в лице его Союзсельмаша».

Возмутились влиятельные наркомы — Серго Орджоникидзе и Яков Яковлев. Сталина не было в Москве, и они потребовали осудить заявление Вышинского на политбюро. 24 августа политбюро с ними согласилось, осудив формулировку речи Вышинского, «которая дает повод к неправильному обвинению в отношении Наркомтяжпрома и Наркомзема». Постановление политбюро написал Каганович, отредактировал его Молотов.

Узнав об этом, Сталин немедленно откликнулся и заступился за Вышинского. 29 августа он написал членам политбюро: «Из письма Кагановича узнал, что вы признали неправильным одно место в речи Вышинского, где он намекал на ответственность наркомов в деле подачи и приемки некомплектной продукции. Считаю такое решение неправильным и вредным. Подача и приемка некомплектной продукции есть грубейшее нарушение решений ЦК, за такое дело не могут не отвечать также наркомы. Печально, что Каганович и Молотов не смогли устоять против бюрократического наскока Наркомтяжа».

1 сентября решение политбюро, осуждавшее Вышинского, было отменено. Но Сталин никак не мог успокоиться. Еще раз написал Кагановичу: «Очень плохо и опасно, что Вы (и Молотов) не сумели обуздать бюрократические порывы Серго насчет некомплектных комбайнов и отдали им в жертву Вышинского. Если Вы так будете воспитывать кадры, у Вас не останется в партии ни один честный партиец. Безобразие!».

Об этом же написал в письме к Молотову: «Выходку Серго насчет Вышинского считаю хулиганством. Как ты мог ему уступить?».

Дело не в том, что Вышинский был Сталину ближе, чем Орджоникидзе. Сталину не понравилось, что в его отсутствие члены политбюро сговорились, сплотились и защитили одного из своих от критики. Ему нужно было, чтобы все члены политбюро чувствовали свою уязвимость. Карать и миловать мог только он один. Они сами не смели выдавать себе индульгенцию.

Вышинский, как это ни казалось странным, в начале тридцатых был главным поборником укрепления авторитета закона и занимался реформой судебных учреждений.

Коллеги Вышинского продолжали твердить, что политическая целесообразность важнее норм права. Нарком юстиции Крыленко доказывал, что судьи должны полагаться на революционное чутье. Но не заметили, что времена изменились и идеи об отмирании государства, судов и законов отвергнуты как «левацкие перегибы».

Куда более образованный и изощренный Вышинский увидел, что Сталин нуждается в хорошо организованной судебно-прокурорской системе как органе власти сильного государства. Сталину для установления диктатуры надо было опираться и на силу закона. Об этом пишет Питер Соломон, американский исследователь советской системы правосудия: «Только наивный человек мог говорить об укреплении законности и торжестве права. В реальности закон должен был стать инструментом власти, надежным инструментом в руках вождя. Вышинский предложил Сталину услуги прокуратуры, на которую вождь и стал опираться».

В двадцатых годах, до Вышинского, прокуратура была малозначительным ведомством. Андрей Януарьевич потребовал от прокурорских работников активно заниматься уголовными делами: проверять работу следователей, участвовать в заседаниях суда и подавать жалобы на судей. На прокуратуру были возложены новые обязанности — надзор над предварительным следствием и за законностью судебных заседаний. То есть прокуратура была поставлена над судом.

Вышинский вывел прокуратуру из-под контроля республиканских наркоматов юстиции. Сталин позволил прокуратуре надзирать за деятельностью наркоматов. Ему важно было создать видимость полной законности государства, когда Конституция формально почиталась как святыня, а фактически делалось то, что было нужно власти. Вышинский позаботился о том, чтобы репрессии в стране приобрели видимость законности. НКВД формально не имел права арестовывать без санкции прокурора. Но прокуроры ни в чем не отказывали чекистам. У следователей НКВД часто вообще не было никаких доказательств. Вышинский нашел выход и приказал подчиненным ему прокурорам: «Дела, по которым нет достаточно документальных данных для рассмотрения в судах, направлять для рассмотрения Особым совещанием при НКВД СССР».

Вышинский многим нравился своими выступлениями с требованиями строжайше соблюдать закон. В реальности он исполнял сталинскую идею: репрессии должны быть прикрыты законами. И Сталин, и Вышинский понимали, что никакие записанные в законах права человека не помешают власти делать то, что она считает нужным.

Летом 1935 года Андрей Януарьевич стал прокурором СССР, а в следующем году получил степень доктора юридических наук.