В 1931 году Яков Серебрянский находился в служебной командировке в Румынии, где был арестован румынской сигуранцей, однако вскоре был освобожден и продолжил свою нелегальную деятельность. В 1932 году с аналогичной миссией выезжал в США, а в 1934 году — в Париж. В 1935 году по поручению Г. Ягоды содействовал организации токсикологической лаборатории НКВД. В 1935–1936 годах находился в спецкомандировке в Китае и Японии.

После начала Гражданской войны в Испании Серебрянский, которому 29 ноября 1935 года было присвоено воинское звание старшего майора госбезопасности, со своей группой участвовал в нелегальных поставках оружия республиканскому правительству Испании. В сентябре 1936 года сотрудниками «группы Яши» при помощи агента «Бернадет» удалось закупить у французской фирмы «Девуатин» 12 новых военных самолётов, якобы для некоей нейтральной страны. Машины были доставлены на приграничный аэродром, откуда под предлогом летных испытаний они были перегнаны в Барселону.

В ноябре 1936 года «группа Яши», в том числе разведчик-нелегал Б. Афанасьев, с помощью агента НКВД М. Зборовского, внедренного в ближайшее окружение сына Л Троцкого — Сергея Седова, похитила и вывезла в Москву часть архива Троцкого. В отношении Седова также был разработан план по его похищению, который, однако, Я. Серебрянским реализован не был в связи со смертью Седова вследствие операции по поводу аппендицита.

А на родине разведчика шла вакханалия репрессий, которая вскоре коснулась и его. Летом 1938 года Яков Серебрянский был отозван из Франции и уже 10 ноября арестован вместе с женой по ордеру, подписанному непосредственно наркомом внутренних дел Л. Берией. Особое удивление и даже недоумение у Л. Берии вызвал состав «группы Яши», в которой числилось до 200 агентов. Дело в том, что в основном это были лица еврейской национальности, которые после прихода Гитлера к власти в Германии либо были вынуждены эмигрировать из страны, либо оказались в концлагерях. К 1938 году эта группа практически перестала существовать. Необходимо было вновь ее восстанавливать. Берия заподозрил И. Серебрянского в том, что тот «липует». В беседе с В. Деканозовым (руководитель внешней разведки. — Н. Ш.) он даже заявил без обиняков, что Серебрянский-де «устроил на казенное жалование свою еврейскую родню, которая оказалась ни к чему не годной», и теперь должен понести за это ответственность.

До 13 февраля 1939 года Серебрянский содержался под стражей во внутренней тюрьме на Лубянке. В ходе следствия, которое вел будущий министр госбезопасности Виктор Абакумов, а затем С. Мильштейн, разведчика подвергали интенсивным допросам. Первый допрос разведчика состоялся 13 ноября 1938 года. Ему предшествовала резолюция Л. Берии: «Тов. Абакумову! Хорошенько допросить!»

Спустя четыре дня в допросе Д. Серебрянского принял участие сам всесильный нарком внутренних дел Лаврентий Берия. Его костоломы старались вовсю: чекист был зверски избит и под пытками оговорил себя. Допросы, сопровождавшиеся пытками и истязаниями разведчика, продолжались. В результате этого допроса с пристрастием следствие составило 4 октября 1940 года обвинительное заключение. В нем, в частности, говорилось следующее:

«Яков Серебрянский — в прошлом активный эсер, при содействии разоблаченных врагов народа проник в органы советской разведки. В 1924 году, будучи в Палестине, был завербован для шпионской деятельности в пользу Англии. В 1933 году Серебрянский был завербован разоблаченным врагом народа Ягодой в антисоветскую заговорщическую организацию, существовавшую в органах НКВД. По заданию Ягоды Серебрянский установил шпионскую связь с французской разведкой, которую информировал о деятельности советской разведки за кордоном, добывал сильнодействующие яды для совершения террористического акта над руководителями партии и советского правительства»…

7 июля 1941 года, Когда уже на просторах Советского Союза вовсю полыхала война, состоялся суп. Якова Серебрянского судила Военная коллегия Верховного суда. На суде Серебрянский свою вину не признал, заявив, что на предварительном следствии он оговорил себя в результате физического воздействия со стороны следователей. Однако суд проигнорировал его заявление и приговорил разведчика к расстрелу с конфискацией имущества. Его жена и надежный помощник Полина была осуждена на десять лет «за недоносительство».

После ареста Я. Серебрянского «группа Яши», как мы уже упоминали, прекратила свое существование. Однако война, принявшая неожиданно для Сталина трагический оборот, потребовала концентрации всех сил армии и народа для отпора врагу. В этих условиях органам безопасности приходилось перестраиваться на военный лад, а не заниматься ведомственными разборками и поисками внутренних врагов. Враг был налицо, и этот враг был невиданно жестким и могучим. В рамках НКВД было создано IV управление, в задачу которого входила организация зафронтовой разведывательно-диверсионной борьбы в тылу врага. Однако из-за репрессий Ежова и Берии разведчиков-профессионалов профиля Я. Серебрянского этому управлению не хватало. В сложившейся тяжелой ситуации П. Судоплатов обращается к Берии с просьбой освободить из заключения Я. Серебрянского и еще ряд чекистов. Ответ наркома его потряс. Как позднее вспоминал бывший начальник IV управления, Берия просто спросил его: «Они тебе действительно нужны?» — и, получив утвердительный ответ, сказал: «Ну, тогда бери их».

Решением Президиума Верховного Совета СССР от 9 августа 1941 г. Я. Серебрянский и его жена были амнистированы. Они вышли из тюрьмы и были восстановлены в партии. 22 августа им были возвращены все ордена и награды. 3 октября после двухмесячного отдыха и лечения Я. Серебрянский по инициативе того же П. Судоплатова назначается начальником группы в IV управлении. В годы войны он занимается подготовкой и заброской в тыл врага различных оперативно-боевых групп и отдельных агентов для выполнения разведывательных задач. Принимал участие в вербовке взятого в плен советскими войсками германского адмирала Редера.

По окончании Великой Отечественной войны 1941–1945 годов министром госбезопасности в 1946 году был назначен Виктор Абакумов, который в предвоенные годы вел дело Я. Серебрянского и лично участвовал в его пытках. Якову ничего не оставалось делать, как выйти в отставку «по состоянию здоровья». Это было неприятно, но все-таки лучше, чем снова попасть в лапы Абакумова. Однако его боевой опыт долго оставался невостребованным, и в мае 1953 года сам Я. Серебрянский по ходатайству П. Судоплатова восстанавливается на работе в 9-м управлении МВД СССР в качестве оперработника негласного штата 1-й категории. Однако и на сей раз судьба была к нему неблагосклонна. После ареста Берии в июне 1953 года сам Я. Серебрянский увольняется 7 июля в запас… Министерства обороны. 8 октября он вновь арестован как участник «заговора Берии».

В процессе следствия доказательств его причастности к «заговору» найдено не было. Но выпускать Серебрянского на волю власти не хотели, потому они пошли на более «хитрый» шаг. Было реанимировано фальшивое дело 1938 года. 27 декабря 1954 года отменяется решение об амнистии от 9 августа 1941 года, несмотря на то, что уже начинался процесс реабилитации жертв сталинских репрессий. Интенсивные допросы разведчика продолжались. Следователи, правда, мер физического воздействия не применяли, однако постоянно оказывали на разведчика психологическое воздействие, добиваясь or него признательных показателей. Такого поворота событий Яков Серебрянский не ожидал. На очередном допросе у следователя военной прокуратуры Царегородского 30 марта 1956 года его сердце не выдержало и Яков Серебрянский умер на 66-м году жизни.