Абверштелле являлись основными звеньями абвера и вели практическую контрразведывательную и диверсионную работу против СССР при каждом военном округе. Они подчинялись соответствующим отделам управления абвер-заграница и согласовывали свою работу с (отделами «I-Ц») разведотделами штабов военных округов.

В оккупированных областях Советского Союза были организованы четыре территориальных органа абвера: абверштелле — Украина, абверштелле — Юг Украины, абверштелле — Крым, которые выявляли агентуру советской разведки и контрразведки, а также лиц, враждебно относившихся к фашистской Германии, вели борьбу с партизанами и готовили своих агентов для фронтовых команд армии. В занятых вермахтом крупных городах создавались местные отделения контрразведки — абвернебенштелле (АНСТ), а в небольших городах, расположенных недалеко от границы и удобных для заброски агентуры, размещались их филиалы — Лусенштелле.

В июне 1941 года в целях ведения разведывательно-диверсионной и контрразведывательной работы против Советского Союза был создан специальный орган Управление абвер-заграница — штаб «Валли». Он подчинялся соответствующим отделам Управления абвер-заграница и отделу по изучению иностранных армий ОКВ Восточного фронта. Несколько слов и об этом отделе.

Отдел «Иностранные армии Востока» решал задачи по изучению положения дел в Красной Армии. С 1 апреля 1942 года его возглавил генерал Райнхард Гелен. Первая группа занималась вопросами еженедельной оценки сил противника и положением его войск. Вторая группа оценивала перспективы положения, анализируя поступившую информацию и дополняя её материалами из других источников. Третья группа с помощью специалистов по России занималась переводом документов. В результате достигнутого соглашения между Канарисом и Геленом была выработана следующая схема прохождения развединформации: все подразделения войсковой разведки, проводившие операции в полосе действий армии, докладывали об их результатах в её разведотдел и одновременно в разведотдел группы армий. Оттуда она направлялась в службу «1-Ц» и параллельно — штабу «Валли I». Из штаба «Валли I» в отдел «Иностранные армии Востока». При этом абвер получал копии всех документов, переданных в отдел Гелена. Начальником штаба «Валли» являлся подполковник Гейнц Шмалыплегер.

Первый отдел руководил военной и экономической разведкой на советско-германском фронте. В его подчинении находились разведкоманды и группы, приданные штабам армейских группировок и армий для ведения разведывательной работы на соответствующих участках фронта, а также команда и группы экономической разведки, проводившие сбор разведданных в лагерях военнопленных;

Второй отдел занимался абверкомандами и абвергруппами по проведению диверсионной и террористической работы в частях и в тылу Красной Армии;

Третий отдел — контрразведывательной деятельностью подчинённых ему абверкоманд и абвергрупп по борьбе с советскими разведчиками, партизанами, антифашистами на оккупированной территории, в зоне фронтовых, армейских, корпусных и дивизионных тылов.

Штабу «Валли» также подчинялись две разведшколы с филиалом и авиаотряд (4–6 самолётов).

В марте 1942 года при штабе «Валли» сформировали специальный контрразведывательный орган «зондерштаб-Р». Это отделение проводило агентурную работу по выявлению партизанских отрядов, антифашистских организаций и групп в тылу немецкой армии. С 1943 года им была развёрнута работа по агентурной разведке в тылах советских войск.

Первый отдел вёл разведывательную работу, второй отдел занимался контрразведкой, третий — пропагандой с целью разложения партизанских отрядов и четвёртый отдел — административнохозяйственной работой.

Возглавил «зондерштаб-Р» Борис Алексеевич Смысловский.

В марте 1942 года Главным управлением имперской безопасности Германии был создан специальный разведывательно-диверсионный орган для подрывной деятельности по политическому разложению советского тыла — «Предприятие Цеппелин».

В своей работе «Цеппелин» взаимодействовал с абвером, командованием вермахта и с имперским министерством по делам оккупированных восточных областей.

Подчинённый VI управлению PCX А на правах особого подразделения, VI Цеп входит в группу (отдел) VI Ц, проводившую политическую разведку против СССР и стран Ближнего Востока. Штаб «Цеппелина» состоял из аппарата начальника органа и трёх отделов: «Цеп-1» занимался комплектованием, оперативным руководством и снабжением; «Цеп-2» — обучением агентуры; «Цеп-3» — обработкой всех материалов о деятельности особых лагерей, фронтовых команд и агентуры, переброшенной в тыловые районы. В своей работе «Цеппелин» руководствовался «Планом действия по политическому разложению Советского Союза».

Сам по себе механизм взаимодействия между гестапо, службой безопасности и абвером был определён в документе под названием «Десять заповедей сотрудничества» (1936 г.), где следовало чёткое разграничение их полномочий. Военная разведка в странах противника оставалась в ведении абвера, а сфера контршпионажа только в основном принадлежала абверу, при том что само понятие было несколько размыто в подписанном соглашении. В ведении абвера находилась подготовка скрытого боевого применения на случай войны (разведывательно-диверсионные операции).

Тайной государственной полиции принадлежало оперативное расследование всех тяжких государственных преступлений и добывание политической информации из-за границы, в особенности из стран, враждебных Германии.

В 1938 году была проведена очередная реорганизация службы внешней разведки СД в Шестое управление ГУИБ, которое летом 1941 года возглавлял Вальтер Шелленберг. А менее чем через год было заключено ещё одно соглашение между СД и абвером по типу «десяти заповедей». Но это уже была программа Шелленберга, который, по воспоминаниям Гелена, «добросовестно сотрудничал с представителями Канариса в рамках соглашения, заключённого между управлением военной разведки и контрразведки и полицейскими службами. Однако положение изменилось, как только Шелленберг стал начальником внешней разведки службы безопасности».

«К концу февраля 1942 г. положение адмирала Канариса уже более не было прочным, — писал в своих мемуарах Шелленберг. — Об этом не могли не знать его друзья и подчинённые, но я-то знал, что Гитлер серьёзно обдумывал вопрос о том, как от него отделаться». И действительно, Гитлера не устраивал начальник абвера по многим показателям. Так план Гитлера изобрести безупречный повод (операцию) для нападения на Польшу и порученный Гейндриху и адмиралу Канарису только у последнего вызвал отвращение. Адмирал всё же сумел уклониться от его выполнения. Со временем он культурно отказался от задания фюрера — убить Черчилля и точно так же проигнорировал его приказ о розыске бежавшего французского генерала Жиро Анри — верховного комиссара Франции в Северной Африке. По утверждению Гелена, «Канарис решительно отвергал политические убийства. Его глубокая религиозная убеждённость абсолютно запрещала ему даже думать о подобной возможности». Адмирал не на шутку был обеспокоен приближавшейся войной с Россией.

Шелленберг вспоминал: «Он резко критиковал руководителей вермахта, которые несмотря на прекрасную осведомлённость, были настолько безответственны и неумны, что поддерживали такого человека, как Гитлер, с его затеей закончить русскую кампанию в течение трёх месяцев. Канарис не разделял и точку зрения фюрера и не мог понять, как такие генералы, как Браухич, Кейтель и Йодль, могли быть столь благодушными, оторвавшимися от жизни оптимистами. Однако возражать было бесполезно».