В 1718 г. открывается дело возвращенного в Россию царевича Алексея, и царь включает верного и сообразительного майора в число «министров» Тайной канцелярии, где тот сразу же становится ближайшим помощником П.А. Толстого. Активно участвуя в расследовании, Ушаков по приказу Петра I создает в старой столице филиал нового ведомства политического сыска, разместившийся на Потешном дворе в Преображенском. Как другие участники розыска этого исключительно важного для государя дела, он получает щедрые монаршие награды. В 1721 г. производится в чин генерал-майора с оставлением майором Преображенского полка. Испытывая очевидную склонность к политическому сыску, Ушаков остается в Тайной канцелярии и усердно трудится в ней до ее ликвидации (одновременно состоит членом Адмиралтейств-коллегии). Фактический глава Канцелярии, П.А. Толстой тяготился навязанной ему Петром I должностью и охотно взвалил всю текущую работу на плечи своего старательного помощника. Взошедшая на трон после смерти Петра I Екатерина I благоволила к верному слуге своего покойного мужа, одним из первых удостоила его звания кавалера вновь учрежденного ею ордена Св. Александра Невского, назначила сенатором.

После упразднения в 1726 г. Тайной канцелярии Ушаков не оставляет привычную ему стезю и переходит в Преображенский приказ. Он становится фактическим руководителем этого ведомства при тяжелобольном официальном его начальнике И.Ф. Ромодановском. Вместо него производит розыск, наиболее важные дела докладывает императрице и Верховному тайному совету. Ушакову довелось недолго руководить Преображенским приказом. Вместе с другими коллегами по Тайной канцелярии он был втянут П.А. Толстым в интригу против А.Д. Меншикова, в мае 1727 г. был арестован и обвинен в том, что, «знав о злоумышлении, не донес о том». Правда, в отличие от других отделался легко – он не был сослан с лишением всех прав и чинов в Соловки или Сибирь, а в звании генерал-лейтенанта отправлен в Ревель.

Причастность, хоть и косвенная, к попытке воспрепятствовать восшествию на престол Петра, сделала для Ушакова невозможной успешную карьеру при новом монархе, но его царствование было непродолжительным, и при государыне Анне Иоанновне его звезда засияла особенно ярко.

Когда в 1730 г. в среде столичной элиты происходило политическое брожение и различные группировки аристократии и дворянства составляли различные проекты ограничения монархии, что на краткий миг было закреплено в кондициях Верховного тайного совета, подписанных Анной Иоанновной при избрании ее на царство, Ушаков держался в тени и не чуждался участия только в тех проектах, которые призывали к восстановлению самодержавия в полном объеме. Когда новая императрица разорвала подписанные ею кондиции, лояльность бывшего «министра» Тайной канцелярии была замечена и оценена. В марте 1730 г. ему возвращается звание сенатора, в апреле он производится в чин генерал-аншефа, в 1733 г. – подполковника лейб-гвардии Семеновского полка. Но главным было то, что в его руки вновь была возвращена реальная власть в сфере политического сыска. Укрепившись на престоле, Анна Иоанновна поспешила ликвидировать Верховный тайный совет, а политические дела изъяла из ведения Сената и передала во вновь создаваемый особый орган, во главе которого был поставлен возвращенный ко двору Ушаков – лучшей кандидатуры на эту ответственную роль императрица не смогла бы найти. 6 апреля 1731 г. новому ведомству было присвоено название «Канцелярии тайных розыскных дел», а по правовому статусу она официально была приравнена к коллегиям. Однако благодаря тому, что Ушаков получил право личного доклада государыне, возглавляемая им структура оказалась вне влияния Сената, которому подчинялись коллегии, и действовала под непосредственным руководством Анны Иоанновны и ее ближайшего окружения, в первую очередь печально известного фаворита Бирона. Свой первый удар императрица направила против тех членов Верховного тайного совета, которые чуть было не лишили ее полноты самодержавной власти. Первым пострадал В.Л. Долгорукий, в 1730 г. сосланный в Соловецкий монастырь, а в 1739 г. казненный. В 1731 г. настала очередь его родственника фельдмаршала В.В. Долгорукого, обвиненного в неодобрительном отзыве о новой государыне в домашнем разговоре. Розыск вел Ушаков, и на основании материалов сфабрикованного им в угоду Анне Иоанновне дела за действительные или мнимые слова в адрес императрицы опасный фельдмаршал был заключен в Шлиссельбургскую крепость, в 1737 г. сослан в Ивангород, а еще через два года заточен в Соловецкий монастырь.

М.М. Голицын подвергся опале сразу по воцарении Анны Иоанновны, но ему «повезло» умереть своей смертью в 1730 г. Его брат Д.М. Голицын, истинный «идеолог и организатор» заговора «верховников», был обвинен в служебных злоупотреблениях и привлечен к суду в 1736 г. Формально за «злоупотребления», а фактически за попытку ограничить самодержавие старый князь был приговорен к смертной казни, замененной заточением в Шлиссельбургской крепости, где он вскоре и скончался.

Князей Долгоруких Ушаков судил совместно с другими доверенными лицами Анны Иоанновны, в числе которых был и кабинет-министр императрицы А.П. Волынский. Но в 1740 г. начальник Канцелярии тайных розыскных дел пытал уже своего недавнего коллегу по ведению этого процесса, попытавшегося положить конец немецкому засилью при дворе. Изъятые у Волынского при обыске черновики документов свидетельствовали о замысле ограничить самодержавную власть, а его единомышленники под пыткой «засвидетельствовали» стремление кабинет-министра узурпировать русский трон – последнее обвинение, судя по всему, Ушакову подсказал Бирон.

Искренне преданный своему пыточному ремеслу, Ушаков выполнял свое дело не за страх, а на совесть. Даже в свободное от присутствия в Канцелярии время он ни на миг не забывал о своих обязанностях. За страшным руководителем застенка закрепилась такая репутация, что одно его имя заставляло трепетать каждого, притом не только русских подданных, но и пользовавшихся дипломатической неприкосновенностью иностранных послов. «Он, Шетардий, – докладывали в 1744 г. члены комиссии по выдворению из России французского дипломата, – коль скоро генерала Ушакова увидел, то в лице переменился».

Анна Иоанновна умерла в 1740 г., завещав русский престол младенцу Иоанну Антоновичу, регентом при нем она назначила своего фаворита Бирона. В последовавшей затем череде государственных переворотов Ушаков демонстрирует чудеса политической выживаемости. Поначалу по старой памяти поддерживает Бирона. Но уже через месяц фельдмаршал Миних без особого труда свергает ненавистного временщика и провозглашает регентшей Анну Леопольдовну, мать Иоанна Антоновича, принцессу Брауншвейгскую. Чтобы придать военному перевороту вид хотя бы какой-то законности, победитель приказывает Ушакову добыть необходимые сведения о заговоре Бирона. Застенки Канцелярии тайных розыскных дел заполнились курляндцами, главными из которых были сам бывший фаворит и его двоюродный брат, пристроенный своим всемогущим родственником в капитаны Преображенского полка. Им было предъявлено обвинение в намерении отравить Иоанна Антоновича, обвинить в его смерти Анну Леопольдовну и провозгласить Бирона российским императором. В итоге дело закончилось тем, что последний был приговорен к смертной казни, замененной ссылкой в Пелым, а неуемное рвение членов Канцелярии тайных розыскных дел представить мнимый заговор как можно более масштабным и обвинить в участии в нем как можно больше людей было пресечено самим Минихом, обругавшим следователей и велевшим им «прекратить болванское занятие, от коего по Российскому государству смута сеется». Тем не менее регентша наградила А.И.Ушакова орденом Св. Андрея Первозванного.