В 1928 г. Борис Алексеевич Смысловский получил возможность поступить на разведывательные курсы при Войсковом управлении рейхсвера (Truppenamt) — именно под этим названием в 1920-е и в первой половине 1930-х гг. действовал немецкий Генштаб, а, собственно, курсы «замаскированной» Академии Генерального штаба (Kriegsakademie) германской армии.

По одной из версий, устроиться на курсы Смысловскому помог барон Каульбарс, русский офицер-кавалерист, адъютант шефа абвера — адмирала Канариса. Возможно также, что на курсы Борис Алексеевич смог устроиться благодаря протекции сотрудников разведки из Войскового управления, а точнее — из отдела по изучению иностранных армий. Кроме того, право поступить на курсы Смысловский, вероятно, получил за результативную работу в качестве агента (а потом и резидента), собиравшего сведения о польской армии под видом предпринимателя, связанного с деревообрабатывающей промышленностью.

В 1932 г. Смысловский окончил обучение на разведывательных курсах и был взят на службу в отдел иностранных армий Войскового управления. В то же время Смысловский, как сотрудник отдела иностранных армий, довольно много времени проводил в отделах IС при воинских соединениях и штабах, где получил основательную практику разведывательной и контрразведывательной работы.

В первой половине 1930-х гг. Смысловский служил в разведорганах Войскового управления, которое 16 марта 1935 г. — в день создания вермахта и введения всеобщей воинской повинности — стало называться Генеральным штабом сухопутных войск. К этому времени Борис Алексеевич оброс связями в отделе иностранных армий (его возглавлял тогда генерал-майор К. Шпальке) и в абвере.

1 сентября 1939 г. началась Вторая мировая война. Германский вермахт за считанные недели подавил сопротивление польских вооруженных сил и занял, согласно пакту Молотова-Риббентропа, значительную часть территории восточного соседа. Теперь внимание немецкой разведки переключилось на СССР, вероятность войны с которым становилась все более очевидной. На территории Генерал-губернаторства (бывшей Польши) появились стационарные органы абвера, проводившие свою работу во взаимодействии с отделом «Иностранные армии Востока». Здесь же работал и Смысловский. По заявлению ветеранов советских органов госбезопасности, он был сотрудником «Абвернебенштелле-Варшава» («АНСТ-Варшава»).

Находясь в Варшаве, Смысловский, до этого не состоявший в военных организациях русских эмигрантов, осенью 1939 г. вступил в РОВС (точнее — Объединение Русских Воинских Союзов, чьи филиалы располагались на территории рейха и в захваченных немцами европейских странах).

Разумеется, такой шаг Борис Алексеевич сделал неспроста: приближалась война против Советского Союза. Нетрудно было догадаться, что с началом военных действий наиболее активная часть эмиграции, представленная офицерами, будет стремиться попасть в действующую немецкую армию или ратовать за создание русских вооруженных формирований, готовых вести борьбу совместно с рейхом. У Смысловского появлялась возможность привлечь добровольцев к сотрудничеству с германскими спецслужбами.

Процесс подключения белогвардейцев к войне на Востоке оказался непростым. Многие нацистские чиновники об этом не хотели и слышать. Тем не менее в НСДАП, в Министерстве занятых восточных областей и в германском военном ведомстве нашлось немало сотрудников, видевших в сотрудничестве с эмигрантами пользу.

Если вопрос вооруженного участия эмигрантов в войне на Восточном фронте первое время встречал возражения со стороны нацистов, то немецкие разведывательные органы, уже давно и плодотворно использовавшие эмигрантов в своих целях, непосредственно перед началом войны с СССР еще более активно стали привлекать русские кадры (а также и представителей других народов, населявших Советский Союз).

В любом случае, вопреки распространенному мнению, русские эмигранты без особого труда могли включиться в работу (пропагандистскую, разведывательную, диверсионную и т. п.) на оккупированных территориях, разумеется, при условии изъявления лояльности в отношении нацистских властей.

С началом войны Б.А. Смысловского под псевдонимом фон Регенау направили в отдел IС при штабе группы армий «Север». Поначалу он занимался сбором развединформации, а также выполнял обязанности переводчика в звании зондерфюрер «К» (соответствовало чину капитана). По другой версии, Смысловский имел чин майора вермахта уже в июне 1941 г.

Оказавшись в войсках, Смысловский активно включился в борьбу на невидимом фронте. На него замыкались различные агентурные каналы. Должность, которую он занимал, по-видимому, позволяла ему играть серьезную роль при штабе командующего группой армий «Север» генерал-фельдмаршала фон Лееба. Отдел IС штаба группы армий «Север», в котором служил Смысловский, с августа 1941 г. дислоцировался в Пскове. Проводилась целенаправленная и системная вербовка среди всех слоев населения, но в первую очередь среди пленных бойцов и командиров РККА.

Через некоторое время Смысловский пришел к выводу, что есть реальная возможность сформировать из эмигрантов специальное подразделение, которое бы занималось сбором дополнительной разведывательной информации. По сути, речь велась о школе по подготовке разведчиков и диверсантов для действий в советском тылу. Предложения Смысловского заинтересовали вышестоящее командование, и вскоре он был командирован в Генеральный штаб сухопутных сил. В ходе переговоров с представителями ОКХ офицер добился положительного решения — ему позволили создать учебный разведывательный батальон (Lehibataillon fur Feind-Abwehr und Nachrichtendienst).

24 сентября 1941 г. при штабе группы армий «Север» завершилось формирование первой русской добровольческой части на Восточном фронте. Организация батальона осуществлялась в тылу 18-й армии вермахта (583-й тыловой район). Основу части составили эмигранты. На все командные должности Смысловский поставил лично преданных ему людей, преимущественно из Генерал-губернаторства и Протектората Богемия и Моравия.

В то же время Смысловский уделял внимание и отбору подходящих кадров из числа пленных бойцов и командиров РККА, и за счет них пополнил свой батальон. Отобранных кандидатов изолировали от остальных военнопленных и под охраной немецких солдат или вербовщиков направляли в специальные проверочные лагеря или непосредственно в разведывательно-диверсионные школы.

Осенью 1941 г. благодаря инициативе Смысловского было организовано от двух до четырех батальонов. Их личный состав был поставлен на все виды довольствия, отправлен на обучение и вооружен. Батальоны вошли в состав подчинявшейся штабу «Валли» «Северной группы», которая вела тактическую и оперативную разведку в тылу РККА. До начала 1942 г. майор фон Регенау организовал 12 батальонов, находившихся на разных участках Восточного фронта (под этими батальонами надо понимать разведывательные школы абвера, действовавшие на оккупированной территории Прибалтики, а также в других областях СССР, занятых немецкими войсками). Работа Смысловского в первые месяцы войны также была связана с получением оперативных данных от агентов.

Рост советского партизанского движения привел к тому, что в абвере созрело решение о создании специального разведывательного органа, который бы занимался агентурной разработкой, выявлением и ликвидацией партизан, контактируя по этой линии со всеми структурами немецкой контрразведки на оккупированной территории СССР. В результате в марте 1942 г., при 1-м отделе штаба «Валли» появился Особый штаб «Россия», известный как Зондерштаб «Р» (Sonderstab «Rutland»). Штаб дислоцировался в Варшаве и был законспирирован под вывеской «Восточная строительная кампания „Гильген“. Возглавил организацию майор Б.А. Смысловский.