Диверсионно-разведывательные и контрразведывательные подразделения Абвер имел и во всех внутренних военных округах и стратегических центрах Германии – т. н. абверштелле (АСТ) и абвернебенштелле (АНСТ), а также в союзных и нейтральных странах. Наиболее крупными АСТ считались: «Кенигсберг», «Вена», «Краков», «Берлин», «Бухарест» и «София». Разведывательно-контрразведывательные усилия первых трех были направлены исключительно против СССР. В Турции, Болгарии, Финляндии, Швеции, Румынии, Прибалтике, многих других странах без устали трудились разведывательные организации Абвера с условным наименованием «Кригсорганизацион» (военная организация – сокращенно КО). Под прикрытием дипломатических представительств они осуществляли диверсионно-подрывную деятельность.
Составной и неотъемлемой частью военной разведки и контрразведки была широкая сеть разведывательно-диверсионных школ, прежде всего на территории оккупированной Польши. С началом войны против СССР их число и места дислокации постоянно увеличивались. Стоящие перед всеми подразделениями ведомства Канариса задачи во всех случаях решались с помощью штатных сотрудников, а главным образом – с участием огромной армии агентов и диверсантов.
Наладил Абвер в предвоенный период и тесный контакт, а также взаимодействие с армейскими разведывательными структурами. Штабы германских войсковых соединений (от дивизии и выше) состояли из трех основных отделов: оперативного – 1А, тыла – 1Б, разведывательного – 1Ц. Накануне и в условиях войны задача последнего заключалась в сборе и обработке разведданных о Красной Армии, борьбе со шпионажем в собственных частях, организации радиопропаганды, проведении на передовой и прифронтовых районах антисоветской агитации, осуществлении военной цензуры, первичных допросов военнопленных и др.
Подготовка, а особенно начало вооруженной агрессии против СССР вынудили Канариса существенно расширить диверсионно-разведывательный и контрразведывательный аппарат. Первым шагом стало создание в июне 1941 г. при Управлении «Абвер-заграница» специального органа – оперативного штаба «Валли» (полевая почта 57219), руководителем которого стал подполковник Хейнц Шмальшлегер. Главной его обязанностью была организация и развертывание разведывательно-диверсионной и контрразведывательной работы против действующей Красной Армии на Восточном фронте.