Свою политическую активность Мельгунов направляет на объединение различных групп русской эмиграции для совместной борьбы с большевиками. Одно время он стоял даже во главе особой эмигрантской политической организации «Координационный центр». Но эта деятельность явного успеха не имела, как не давали ощутимых результатов и попытки сплотить эмиграцию, предпринимавшиеся другими политиками.
Главное же, что поглощало на чужбине силы и время Мельгунова, были его ежедневные, из года в год, занятия историей. Отбросив почти все свои старые увлечения, историк сосредоточивается исключительно на исследовании нескольких лет «русской смуты» XX века, выполняя данный себе еще в 1920 году зарок. В доносах провокатора Н. Н. Виноградского об этом зароке сказано следующее: «Мельгунов постоянно заявляет, что после выхода из тюрьмы он направит все свои силы как историка к тому, чтобы большевики не вошли с хорошим именем в историю. Для того у него уже имеется материал, и материалы он постоянно будет собирать!!!»
Начал историк с обращения к теме красного террора. За первые же статьи на эту тему через год после высылки из России он был официально решением ВЦИК лишен советского гражданства, в Москве был конфискован весь его личный архив и огромная библиотека, переданные в распоряжение Коммунистической Академии. Путь на Родину оказался отрезанным навсегда.
В последующие годы из-под пера Мельгунова выходят одна за другой все новые и новые книги, одно перечисление которых впечатляет: «Красный террор в России. 1918 – 1923» (1923 – 1924), «Н. В. Чайковский в годы гражданской войны. Материалы для истории русской общественности» (1929), «Гражданская война в освещении П. Н. Милюкова. Критико-библиографический очерк» (1929), «Трагедия адмирала Колчака. Из истории гражданской войны на Волге, Урале и в Сибири» (4 т., 1930 – l93l), «На путях к дворцовому перевороту. Заговоры перед революцией 1917 года» (1931), «Российская контрреволюция. Методы и выводы генерала Головина» (1938), «Как большевики захватили власть. Октябрьский переворот 1917 года» (1939), «Золотой немецкий ключ большевиков» (1940), «Судьба императора Николая II после отречения. Историко-критические очерки» (1951), «Легенда о сепаратном мире. Канун революций» (1957), «Мартовские дни 1917 года» (1961), «Воспоминания и дневники» (2 т., 1964).