Рейнхард Гейдрих принялся собирать досье на друзей и врагов Адольфа Гитлера. Эрнст Рем и Грегор Штрассер недовольные тем, что Гитлер забрал себе слишком много власти, на собраниях штурмовых отрядов обличали своего соратника по партии.
«Гитлер сближается с буржуазией. Он предал идеи национал-социализма!» – кричал Грегор Штрассер.
Адольф Гитлер боялся Рема, у того было сорок тысяч штурмовиков, отряды СС возглавляемые Гиммлером, насчитывали от силы две тысячи человек. Рейнхард Гейдрих уговорил Гитлера ударить первым. Ночью 30 июня 1934 года, отряды СС арестовали Эрнста Рема, Грегора Штрассера и всех руководителей СА. Они тут же были расстреляны. В истории Германии это событие вошло как «Ночь длинных ножей». После неё отряды СА были расформированы, а штурмовики влились в СС.
Генрих Гиммлер планировал превратить СС в полноценную армию. Для начала была сформирована дивизия «Мёртвая голова», которая стала охранять концентрационные лагеря. Теперь их строили по всей Германии. Гейдрих и Гиммлер уговорили Адольфа Гитлера создать общегерманскую полицию. Она была организована 17 июня 1936 года, возглавил её Генрих Гиммлер.
В 1939 году Гейдрих предложил Гиммлеру создать Главное управление имперской безопасности. В него вошли: криминальная полиция (крипо), тайная государственная полиция (гестапо), в неё объединили политические отделы всех земель Германии,11 служба безопасности (СД).
Впоследствии Главное управление имперской безопасности разрастётся до шести управлений:
Крипо – будет заниматься уголовными преступлениями.
Служба безопасности (СД) – вела агентурную работу и отслеживала политическую ситуацию в Германии, а её политический отдел вёл разведку за границей.
Гестапо – производит аресты политически неблагонадёжных граждан и ведёт следствие по их делам. Так же занимается контрразведкой.
Остальные три управления, это финансы, кадры, связь.
Рейнхард Гейдрих предложил: Мюллеру возглавить гестапо, Алеману службу безопасности. Те сослались на свою беспартийность, и тогда Гиммлер заставил обоих вступить в НСДАП12. Пришлось Мюллеру и Алеману согласиться, однако Георг верный своему принципу: «не лезть наверх», отказался возглавлять СД, сославшись на «неумение руководить большим аппаратом». Он убедил Гейдриха назначить его помощником Мюллера в гестапо. Из Мюнхена Мюллер и Алеман в 1936 году перебрались в Берлин.