Когда Канарис появился на сцене, все в отживающем свой век абвере внезапно ожило. Он набросился на работу с энергией и воодушевлением, которых никто не ожидал от Старика. Он сделал абвер приемлемым для нацистов. Заявляя Патцигу, что знает, как поладить с Гиммлером и Гейдрихом, он выражал не надежду, а уверенность.
Он установил близкие и, казалось, искренне дружеские отношения с Гейдрихом, в котором видел потенциально наиболее опасного соперника. Молодой нацист был польщен вниманием высокопоставленного флотского офицера, видимо, потому, что лишь несколько лет тому назад был изгнан из рядов ВМФ за амурную интрижку с дочерью корабельного инженера. Канарис купил жилье в пригороде Берлина рядом с домом Гейдриха, и обе семьи стали добрыми соседями. Канарис угощал конфетами сыновей Гейдриха, а фрау Канарис осыпала комплиментами хорошенькую блондинку-соседку.
Канарис привел в абвер майора Рудольфа Бамлера и назначил его руководителем отдела контрразведки, работавшего в тесном контакте с гестапо. Выбор объяснялся тем, что Бамлер был одним из немногих офицеров Генерального штаба, кто открыто выражал свои симпатии к фашизму и был дружен с некоторыми видными нацистами[12]. Канарис, который не был любителем устраивать приемы, стал организовывать дружеские вечеринки для Гейдриха и его окружения. Обычно эти пирушки происходили в отдельном кабинете ресторана «Дом летчиков» на Принц-Альбрехт-штрассе, рядом с мрачным зданием гестапо, где располагалось ведомство Гейдриха.
Эта явно односторонняя услужливость перед Гейдрихом была плодом трезвого расчета, а не отражением истинных чувств Канариса. Канарис умиротворял нацистов главным образом для того, чтобы получить возможность развивать абвер в соответствии со своими амбициозными планами: сделать его самой большой и лучшей секретной службой в мире.
Абвер был реорганизован, и были созданы три оперативных отдела. Бывший Geheimer Meldedienst (разведывательный отдел, занимавшийся сбором информации и агентурными операциями) был значительно расширен и стал называться первым отделом. Новый второй отдел должен был осуществлять диверсионную и подрывную работу, а также вести «черную» пропаганду. В Баварии на Куензее был создан учебный лагерь для подготовки диверсантов, а в Берлине и Тегеле были организованы лаборатории для разработки оснащения диверсантов, а также шпионов из первого отдела нужным оборудованием: от чернил для тайнописи в виде зубного эликсира до взрывчатки, похожей на муку. Контрразведкой занимался третий отдел.