Летом 1918 г. Ефремова назначили командиром роты 1-й Московской пехотной бригады. С тех пор вся его жизнь будет связана именно с пехотой.
Командовал батальоном, а затем сводным отрядом под Новохопёрском. 13-м Астраханским железнодорожным полком под Астраханью. Под Царицыном, в период боёв, вступил в партию большевиков. Рекомендацию ему дал председатель Временного военно-революционного комитета Астраханского края С.М. Киров. Там он подружился с Миронычем. Вскоре получил новое назначение, став начальником обороны всех железных дорог, находящихся в полосе действия 11-й армии. Основной ударной силой, которой он в то время располагал, был особый отряд бронепоездов. Именно блестящим маневром бронепоездов Ефремов вскоре проведёт ошеломляющую операцию по захвату Баку.
25 апреля 1920 г. Ефремов получил приказ, подписанный командующим 11-й армией М.К. Левандовским[2] о начале операции. Четыре бронепоезда под общим командованием Ефремова должны были составить ударную группу Кавказского фронта, которым в то время командовал М.Н. Тухачевский[3]. На головном бронепоезде во время атаки рядом с Ефремовым находился член Кавказского крайкома партии А.И. Микоян[4].
В Баку в то время набирали силу националистические настроения довольно многочисленной группы местного населения – татар. Распад империи будил сепаратистские настроения. Татарская мусульманская партия или, как её называли большевики в своих листовках и на митингах, «бекско-ханская феодальная организация» «Муссават» провозгласила лозунг: «Закавказье – для закавказцев!» Попытка потеснить русских закончилась так называемыми Шамхорскими событиями. Татары попытались отнять оружие у русских воинских частей, прибывающих с фронта. Очевидец тех событий бывший кадет Б. Байков в своих «Воспоминаниях о революции в Закавказьи (1917–1920 г.г.)» писал: «Вынужденные двигаться в ту же сторону, то есть на Елизаветполь – Баку, воинские части, озлобленные участью своих боевых товарищей, пошли дальше уже как по вражеской стране, сметая по своему пути всё татарское население, принимавшее и не принимавшее участие в кровавых Шамхорских и иных нападениях. Местами войска шли боевым порядком, громя всё из орудий и пулемётов». Попытка разграбить воинские эшелоны не удалась. Но вслед за этим татары устроили резню местным армянам, в которой погибло до 20 000 армян. Турецко-азербайджанская армия под командованием Мурсала-паши обложила блокадой Баку и нефтеносные районы, населённые в основном русскими, а также армянами и другими народностями. «Муссават» опирался именно на эти штыки. Турецкую армию поддерживали немцы.