После смерти Гейдриха исполнял обязанности руководителя РСХА. В январе 1943 г. стал заместителем Гиммлера и был утвержден в должности начальника Главного управления имперской безопасности. Организатор и руководитель расследования и ареста заговорщиков военного переворота 20 июля 1944 г. Проявил чудовищную жестокость. Руководил деятельностью спецслужб РСХА, в т. ч. на Восточном фронте.
В мае 1945 г. был пленен американскими войсками. Решением суда в Нюрнберге приговорен к смерти. Повешен 16 октября 1946 г.
На первом этапе существования в структуру РСХА под соответствующими номерами вошли семь управлений, функции которых были строго разграничены: I управление ведало организационными вопросами и подготовкой кадров; II – занималось финансами и хозяйственными делами; III (СД) – осуществляло наблюдение и контроль за внутренней политической жизнью в Германии; IV (гестапо) – выявление и борьбу с политическими противниками национал-социализма и «нового порядка» в Европе; V (крипо) – противодействие уголовному миру; VI представляло собой зарубежную разведывательную и контрразведывательную службы СД; VII – занималось научными и другими расистскими «исследованиями», обобщением и анализом собранной другими управлениями информации, организацией и проведением контрпропаганды. После развала Абвера в 1944 г. в структуре РСХА возникло Военное управление, функция которого заключалась в руководстве военными разведывательно-диверсионными органами бывшего основного соперника СД.
Центральный аппарат РСХА располагался в Берлине в комплексе зданий на Принц-Альбрехтштрассе, однако немало его служб «ютились» по всей столице. К 1943 г. в нем работало 38,5 тыс. сотрудников.
В сентябре 1939 г. гестапо (IV управление РСХА) возглавил группенфюрер и генерал-лейтенант полиции Генрих Мюллер. Имея разветвленную карательно-шпионскую структуру, его управление насчитывало шесть отраслевых (по направлению деятельности) подразделений и группу специального розыска, а также два отдельных реферата. И хотя обязанности гестапо предусматривали агентурно-оперативную работу только внутри рейха, с помощью специальных рефератов и групп тайная государственная полиция стремилась проникнуть далеко за его пределы, в частности, путем организации и проведения радиоигр, участия его представителей в работе карательных органов в оккупированных странах, организации контрразведывательной работы против разведок Советского Союза и других стран.