После ареста томской типографии «Союза» руководители его, опасаясь своего ареста, передают Азефу все связи и полномочия на продолжение дела. «Азефу мы поручили все, как умирающие на смертном одре, – пишет А. Аргунов. – Мы ему рассказали все наши пароли, все без исключения связи (литературные и организационные), всех людей, все фамилии и адреса и отрекомендовали его заочно своим близким. За границей он должен был явиться с полною доверенностью от нас, как представитель „Союза“. Чувство к нему было товарищеское, пожалуй, даже чувство дружбы».
Е. Ф. Азефу поручают закончить переговоры об объединении с южными группами социал-революционеров, образовавшими партию. «Мы получили Азефа от заграничных товарищей, – вспоминает Аргунов, – доверия которых он добился сдержанным и умелым поведением лица сочувствующего, доброго малого и не труса. Среди нас он продолжал ту же тактику и добился успеха. Помогло ему и наше несчастье – разгром „Союза“. Как члена „Союза“, снабдив всеми полномочиями, дав еще на придачу нашего давнишнего друга, – отправили мы Азефа за границу для закладки фундамента партии. И он повел себя так, что оказался вскоре на высоте положения».
В 1901 г. Азефу вместе с другим членом северного союза и Г. А. Гершуней окончательно удается оформить слияние «южных» и «северных» социалистов-революционеров в объединенную партию. С июля 1902 г. Азеф работает в Петербурге, одновременно как член ЦК и петербурского комитета. Он организует транспорт партийной литературы через Финляндию, совершает объезды организаций. Наряду с этим, он вместе с Гершуней обсуждает планы террористических предприятий: вторичного покушения на князя Оболенского и покушение на Богдановича. Гершуня назначает его своим ближайшим помощником по руководству боевой организацией. После ареста Гершуни, с января 1904 г., Азеф встал во главе расширенной организации (куда вошли Каляев, Сазонов, Покотилов, Швейцер и др.). В то же время он участвует в общепартийной работе и организует в России динамитную мастерскую.
В организационном вопросе Азефом был внесен проект объединения боевого дела партии в одних руках, в особом коллективе. Этому коллективу должны были быть подчинены не только террористические группы и организации центрального комитета, но и местные; на нем должна лежать обязанность руководства боевыми выступлениями, разработка планов, учет всех боевых сил и пр.