В 1923 году на октябрьском пленуме ЦК, где определялось распределение сил между Троцким и тройкой лидеров (Сталиным, Зиновьевым и Каменевым), Фрунзе поддержал последних, выступив с докладом против деятельности Троцкого. Михаил Васильевич обвинял наркома по военным делам в развале Красной армии и отсутствии чёткой системы подготовки военных кадров. По инициативе Фрунзе с высоких военных чинов были сняты троцкисты Антонов-Овсеенко и Склянский. Линию Фрунзе поддерживал начальник генштаба РККА Михаил Тухачевский.
В 1924 году Михаил Фрунзе прошёл путь от заместителя начальника до председателя Реввоенсовета СССР и наркома по военным и морским делам, стал кандидатом в члены Политбюро ЦК и Оргбюро ЦК РКП (б). Также Михаил Фрунзе возглавил штаб Красной армии и Военную академию РККА.
Главной заслугой Фрунзе в этот период можно считать проведение военной реформы, целью которой стало уменьшение численности Красной армии, проведение реорганизации командного состава. Фрунзе ввёл единоначалие, территориальную систему деления войска, участвовал в создании двух независимых структур внутри армии – постоянного войска и мобильных отрядов милиции.
В это время Фрунзе разработал военную теорию, которую изложил в ряде изданий – «Единая военная доктрина и Красная армия», «Военно-политическое воспитание Красной армии», «Фронт и тыл в войне будущего», «Ленин и Красная армия», «Наше военное строительство и задачи Военно-научного общества».
В течение последующего десятилетия в Красной армии благодаря стараниям Фрунзе появились десантные и танковые войска, новое артиллерийское и автоматическое оружие, были разработаны методы ведения тыловой поддержки войска. Михаилу Васильевичу удалось стабилизировать ситуацию в РККА за короткий срок. Теоретические разработки тактики и стратегии ведения боя в условиях империалистической войны, заложенные Фрунзе, в полной мере были реализованы во время Второй Мировой войны.
Осенью 1925 года Михаил Фрунзе обратился к медикам по поводу лечения язвы желудка. Генералу была назначена несложная операция, после проведения которой 31 октября Фрунзе скоропостижно скончался. Официальной причиной смерти стало заражение крови, по неофициальной версии – гибели Фрунзе поспособствовал Сталин.
Через год жена Михаила Васильевича покончила жизнь самоубийством. Тело Фрунзе захоронено на Красной площади, могила Софьи Алексеевны находится на Новодевичьем кладбище Москвы.