В абвере имелись центральный аппарат и аппарат разведки, подчинявшиеся заместителям Канариса. Центральный аппарат ведал вопросами организации, финансов и права, не касаясь разведывательных аспектов.
В распоряжении шефа абвера находилось, кроме того, специальное подразделение, имевшее номер 800, преобразованное затем в так называемую Бранденбургскую дивизию.
Аппарат разведки организационно состоял из трех отделов: 1-го отдела, занимавшегося сбором и обработкой разведывательной информации; 2-го отдела, ведавшего вопросами ведения психологической войны, подрывной деятельности и саботажа, и 3-го отдела, отвечавшего за контрразведку и вопросы безопасности.
Каждая группа армий имела собственный разведывательный отдел с подобными же секторами. В армиях и дивизиях были предусмотрены так называемые разведывательно-информационные центры. После реорганизации 1944 года они были переименованы в войсковые разведывательные подразделения.
В военных округах также имелись подразделения разведки и безопасности (контрразведки), перед которыми стояли те же задачи, что и перед фронтовыми разведподразделениями. Структурно они подразделялись на три направления, подобно берлинскому управлению. Подобные же органы были созданы в нейтральных и дружественных странах, где они получили статус военных организаций. Их оперативная деятельность не ограничивалась только страной пребывания, а распространялась на сопредельные, а также вражеские страны.
Еще одним источником поступления информации являлись военные и иные атташе, подчинявшиеся, однако, не управлению военной разведки, а отделам военных атташе в главных штабах сухопутных войск, военно-морских и военно-воздушных сил.
Политическая (внешняя) разведка вначале являлась 3-м отделом службы безопасности и была впоследствии реорганизована в VI управление Главного управления имперской безопасности (РСХА). Возглавлял его генерал-майор СС Шелленберг. Здесь имелись отделы, занимавшиеся вопросами организации и ведения зарубежной и промышленной разведки, саботажа и другими аспектами (см. схему).
Первоначально VI управление имело так называемых «наблюдателей» в различных сферах разведывательной деятельности с задачами, подобными задачам военной разведки (абвера), но гораздо меньшими по объемам. В нейтральных и дружественных странах разведывательная работа осуществлялась под руководством «главных представителей VI управления».