В мае 1925 года Шапошников назначается заместителем, а вскоре и командующим войсками Ленинградского, а затем Московского военных округов. В это время он начал работу над капитальным трудом «Мозг армии» (1929), посвященным обобщению опыта деятельности генеральных штабов разных стран при подготовке и в ходе Первой мировой войны. В этом труде он также остановился на проблемах и возможном характере будущей войны, определил место Генерального штаба в системе государственного и военного управления.
В 1928 году Шапошников назначается начальником штаба РККА. На этом посту его деятельность была направлена на улучшение структуры и содержания работы высшего военного управления. Он много сделал для решения вопросов по руководству боевой и оперативной подготовкой войск и штабов.
В октябре 1930 года Шапошников был принят в ряды ВКП(б) без прохождения кандидатского стажа.
В апреле 1931 года он назначается на должность командующего войсками Приволжского военного округа. С апреля 1932 до октября 1935 года он являлся начальником и военным комиссаром Военной академии им. М.В.Фрунзе. Шапошников был также и профессором этой академии.
В 1935 году Борис Михайлович Шапошников получил звание командарма 1-го ранга и в том же году вновь возглавил войска Ленинградского военного округа.
В мае 1937 года он стал начальником Генерального штаба РККА. В августе 1940 года Шапошникову было присвоено звание Маршала Советского Союза, и он был назначен заместителем наркома обороны. На этом посту он прилагал максимум усилий по выполнению программы строительства оборонительных укреплений, принятой на 1940—1941 годы.
С началом Великой Отечественной войны с июля 1941 года Шапошников был назначен начальником Главного командования войск Западного направления, но уже в конце месяца он снова переводится на должность начальника Генерального штаба. При его прямом участии были разработаны планы и проведены Смоленское сражение, контрнаступление советских войск под Москвой, общее наступление войск зимой 1942 года. Напряженная работа ухудшила его здоровье, которое и раньше вызывало серьезное беспокойство.
В мае 1942 года Борис Михайлович обратился в ГКО с просьбой освободить его от должности начальника Генерального штаба и перевести на другую работу. Его просьба была удовлетворена, и он как заместитель наркома обороны стал руководить пересмотром старых и разработкой новых уставов Красной Армии с учетом опыта Великой Отечественной войны. Он организовал работу по изучению опыта войны, и уже под его редакцией в 1943 году был издан трехтомный труд о битве под Москвой.