Гейдрих пришел в ярость от действий своих эсэсовцев, явно смахивавших на эпизоды из гангстерских фильмов. Однако и в следующие годы СД оставалась сборищем детективов-любителей, хотя и стала проникать в секретные службы. Начался систематический сбор иностранной информации, а некоторые сотрудники приступили к налаживанию сети информаторов через своих живших за рубежом знакомых.

Шпионскую деятельность возглавил оберфюрер СС Хайнц Йост, не имевший никакого опыта работы в этой области, но назначенный начальником отдела III 2 (борьба с разведками противника). Постепенно к шпионской деятельности стали привлекаться и другие отделы. «Еврейский» отдел имел, например, собственный аппарат на Ближнем Востоке, который собирал материалы по еврейско-арабскому конфликту в Палестине. Центральным пунктом сбора информации стало там информационное бюро в Тель-Авиве, шефом которого был журналист Райхерт, имевший своих осведомителей в обеих лагерях. Основными его источниками были: у арабов — лидер националистов Ибрагим Ханти, издатель газеты «Аль Дифа», а у евреев — лидер сионистов Файвель Полкес, бывший одним из командиров нелегальной еврейской армии «Хагана».

«Доктор Райхерт взял на себя обязательство, — было отмечено в управлении СД, — сотрудничать только с СД, рассчитывая на ее поддержку в необходимых случаях, и передавать полученные важные в разведывательном отношении материалы через господина фон Ритгена (информационное бюро) о пометкой X или по указанным ему Хагеном адресам».

Действия Райхерта были довольно успешными. В 1937 году он добыл письмо британского экс-премьера Стенли Болдуина, в котором шла речь о секретном англо-турецком договоре, за текст которого итальянская разведка предлагала 150 000 фунтов стерлингов.

Но чем интенсивнее СД пыталась внедряться в секретные службы, тем сильнее становилось противодействие ей военного абвера, возглавлявшегося адмиралом Канарисом, который ранее старался поддерживать добрые, но осторожные отношения со своим бывшим курсантом Гейдрихом.

После первых столкновений между абвером и гестапо в период, когда шефом абвера был Патциг (1932-1934), военное руководство посчитало, что Канарис будет, пожалуй, более подходящей фигурой, чтобы противостоять Гейдриху. Капитан 1-го ранга, ставший вскоре адмиралом, бывший в свое время командиром подводной лодки, Канарис считался противником Веймарской республики и слыл человеком, имевшим тесные контакты с Гейдрихом. При встречах оба они с удовольствием вспоминали время, проведенное на борту учебного крейсера «Берлин». Жене Канариса, Эрике, так не хватало игры на скрипке чуть ли не домашнего музыканта Гейдриха!

Рассказывали, что однажды Канарис с женою, проходя по Дёллерштрассе в южном пригороде Берлина, заметил высокого эсэсовца, прогуливавшегося с блондинкой, везущей детскую коляску. Канарис воскликнул: «Да это же Гейдрих!» Когда того окликнули, он, щелкнув каблуками, отдал гитлеровское приветствие и проговорил тоном бывшего лейтенанта: «Господин каперанг изволит проживать в Берлине?»

На что Канарис ответил: «Совсем недавно».

«А мы вот уже несколько дней живем на Дёллерштрассе», — отреагировал Гейдрих.

«Что вы говорите?! Какое совпадение!»

Они стали встречаться. По воскресеньям после обеда чета Канарисов отправлялась играть в крокет в саду дома Гейдрихов, а вечером те приходили к Канарисам на ужин, приготовленный самим адмиралом, с последующим домашним концертом. Позже обе семьи сблизились еще больше. В августе 1936 года Канарис приобрел дом на Дианаштрассе в берлинском районе Шлахтензее, а через полгода на близлежащей Аугусташтрассе в новом доме поселился шеф СД.

И в служебных отношениях Канарис и Гейдрих сначала находили общий язык. 21 декабря 1936 года Канарис и Бест подписали соглашение (получившее название «Десять заповедей»), определявшее компетенции абвера и гестапо. По нему абвер стал заниматься зарубежной разведкой и контрразведкой, тогда как гестапо взяло на себя вопросы, подпадающие под параграф 163 (государственная измена) с ведением соответствующего расследования. Поскольку абвер в мирное время не располагал военной полицией, то получил право привлечения гестапо в случае необходимости. Соглашение вместе с тем отдавало предпочтение военной разведке и контрразведке. В одном из его пунктов было записано:

«При рассмотрении отдельных случаев прерогатива отдается военной разведке и контрразведке».

Гестапо соглашалось не вмешиваться в расследование тех или иных вопросов, если абвер высказывал такое пожелание.

В последующем в ходе расширения экспансии СД такое преимущество абвера подверглось корректировке. На собственный страх и риск СД стала проникать в разведывательные сети абвера за рубежом, но только путалась под его ногами. Да и в вопросах изучения промышленного потенциала и состояния военной промышленности зарубежных государств они стали сталкиваться. Разрыв между Канарисом и Гейдрихом ускорила афера, выявившая полный дилетантизм службы безопасности.

В конце 1936 года Гейдрих получил по своим каналам сообщение, что в Советском Союзе якобы формируется оппозиция, преследующая цель насильственного свержения Сталина. Во главе ее будто бы стоит маршал Михаил Тухачевский, заместитель наркома обороны. Шефу СД в голову пришла фантастическая идея: а что, если попытаться подсунуть это сообщение Сталину да еще подкрепить его несколькими сфабрикованными документами. В результате с помощью Сталина и советских государственных органов можно одним ударом уничтожить все армейское руководство России!

Гейдрих даже рассчитал, каким образом это следует осуществить. От периода тесных отношений сотрудничества между рейхсвером и Красной Армией должны же были остаться документы, записки и письма с подписями тех советских генералов, которых теперь можно было бы обвинить в заговоре против Сталина. Если немного подправить стиль изложения и привести его в соответствие с 1937 годом, то любой человек убедится в том, что советские генералы совместно с немецкими офицерами намерены выступить против хозяина Кремля. Гейдрих вызвал к себе Науйокса, который в ту пору заведовал лабораторией по изготовлению фальшивых паспортов и документов, располагавшейся на Дельбрюкштрассе. Вместе с ним в суть секретной операции был посвящен руководитель восточного отдела штандартенфюрер СС Герман Берендс, и работа закипела.

Напрасно гауптштурмфюрер СС Эрих Янке, один из немногих специалистов-разведчиков СД, предупреждал, что сомневается в истинности полученного сообщения о Тухачевском. Это вполне могло быть трюком советской секретной службы. Откуда поступила информация? От живущего в Париже русского эмигранта, бывшего генерала Николая Скоблина. А на кого он работал? На СД и одновременно на советскую секретную службу. Но Гейдрих знал что делал. Он посадил Янке под домашний арест и получил разрешение Гитлера подсунуть Советам изготовленные обличительные документы. На все про все ему было дано четыре дня.

С этими документами Берендс выехал в Прагу и сумел через нужных людей уговорить тогдашнего президента Чехословакии Бенеша передать документы в Москву. В ответ советская сторона немедленно прислала в Берлин своего особоуполномоченного, который вступил в переговоры с Гейдрихом. По сведениям, полученным Шелленбергом, Москва заплатила за эти документы три миллиона рублей золотом.