Уже в августе 1906 г. Костицын был назначен ответственным боевым организатором Москвы и, делегированный в ноябре на Первую конференцию военных и боевых организаций РСДРП в Таммерфорсе, вошел в состав их руководящего бюро, в котором с апреля 1907 г. замещал председателя – Е. М. Ярославского (впоследствии – видного партийного функционера). Но, вернувшись 1 июня из Выборга, куда ездил для конспиративной встречи с другим членом бюро – М. А. Трилиссером (будущим начальником Иностранного отдела ОГПУ), Костицын прямо на вокзале был арестован. С огорчением узнав об этом, Д. Ф. Егоров написал ректору: «Я лично знаю Костицына как выдающегося студента, весьма талантливого и преданного науке. Нельзя ли что-нибудь сделать для облегчения его участи?»[3] Привлеченный по делу Боевой организации при Петербургском комитете РСДРП, Костицын провел в тюремной одиночке в «Крестах» более полутора лет, но за недостаточностью улик 13 ноября 1908 г. был оправдан, после чего поспешил уехать за границу. Вместе с ним покинула Россию и его жена – Серафима Ивановна Надеина, фельдшер, которая тоже состояла в большевистской фракции и, выпущенная в июле под залог до суда из петербургского Дома предварительного заключения, скрылась и была заочно приговорена к заключению в крепости сроком на один год.
Сначала Костицыны жили в Вене, а в августе 1909 г. перебрались в Париж, где вскоре поселились на одной квартире с большевичкой Р. С. Землячкой (получившей печальную известность во время Гражданской войны благодаря массовым расстрелам в Крыму). Тогда же в Париже возобновилось знакомство с В. И. Лениным (впервые Костицын встретился с ним еще в марте 1906 г. на заседании партийного комитета в Замоскворечье). Они вместе ходили на первомайскую манифестацию, а летом отправились на отдых на побережье Бискайского залива, где Ильичу, вспоминала Н. К. Крупская, очень понравилось, и он «весело болтал о всякой всячине с Костицыными»,[4] у которых и «кормились».[5] Ленин в 1911 г. предлагал Костицыну войти в состав большевистского ЦК, но тот отказался: политике он предпочел науку.
Окончив в 1912 г. Сорбонну со степенью лиценциата (licencié ès sciences mathématiques), Костицын сразу же заявил о себе работами по системам ортогональных функций, напечатанными в «Математическом сборнике» Московского математического общества