Родился в 1906 г. на Урале в семье инженера. Отец и мать были политссыльными. Трудовую деятельность вынужден был начать рано: работал столяром, помощником инспектора на Пермской железной дороге. Однако еще мальчишкой решил посвятить свою жизнь искусству. С этим намерением в семнадцатилетнем возрасте приехал в Ленинград. Поступил в училище при Академии художеств, где проучился 2 года, затем попал в коллектив ФЭКС (Фабрика эксцентрического актера), участие в котором и общение с будущими классиками отечественного кино оказали принципиально важное влияние на формирование его творческой индивидуальности. Учился в Ленинградском институте сценических искусств, который окончил в 1928 г.
В ФЭКСе познакомился с актрисой Тамарой Макаровой и навсегда соединил с ней свою жизнь. Она снялась почти во всех фильмах Герасимова, стала ведущим педагогом в его творческой мастерской…
У Г. Козинцева и Л. Трауберга сыграл свою первую роль – шпика в фильме «Мишки против Юденича» (1925). В списке актерских работ Герасимова фокусник в «Чертовом колесе», шулер-шантажист в «Шинели», шофер в «Братишке», меньшевик в «Обломке империи», председатель сельсовета в «Одной», эсер в «Выборгской стороне», бонза в «Дезертире» и др. Наиболее яркой работой периода ФЭКС стала роль предателя и афериста Романа Медокса в фильме «С.В.Д.» («Союз Великого Дела»). Много лет спустя Козинцев так писал о его таланте мима: «Он один мог сыграть целый фильм, например, детективный. Мог сыграть убийство, преследования, погоню, с одинаковым успехом сыграть стычку с полицией, сцену с кремовыми пирожными, летящими в лицо». В ФЭКСе Герасимов прошел школу эксцентрического актера, не боящегося гротеска и острого рисунка роли. В дальнейшем снимался в своих фильмах «Маскарад», «Люди и звери», «Дочки-матери». Итогом и вершиной актерской карьеры стало исполнение роли великого русского писателя в фильме «Лев Толстой».
Режиссерским дебютом Герасимова можно признать комедию «Двадцать два несчастья» (1930), которую он поставил вместе с С. Бартеневым. Последующие два фильма «Сердце Соломона» и «Люблю ли тебя?» были в творческой биографии не более чем поиском своего стиля.
Подлинным началом режиссерской биографии стала картина «Семеро смелых» (1936), сделавшая имя Герасимова знаменитым. Каждая следующая его картина, будь то размышления на современные темы, экранизация или историческое полотно, становилась событием в жизни страны. Он создал около 30 художественных фильмов, большинство из которых вошли в золотой фонд кинематографа: «Комсомольск», «Учитель», «Маскарад», «Молодая гвардия», «Сельский врач», «Тихий Дон», «Люди и звери», «Журналист», «У озера», «Любить человека», «Дочки-матери», «Красное и черное», «Юность Петра», «Лев Толстой».