В 1911 году Бабель окончил коммерческое училище и поступил в Киевский коммерческий институт. В 1913 году в журнале «Огни» был опубликован его рассказ «Старый Шлойме». В 1916 году, окончив учебу в Киеве, Бабель поступил в Петроградский психоневрологический институт на четвертый курс. В этом же году Бабель познакомился с Горьким, благодаря покровительству которого были напечатаны два рассказа – «Илья Исаакович и Маргарита Прокофьевна» и «Мама, Римма и Алла». Однако Горький посоветовал молодому писателю, прежде чем продолжать литературную карьеру, постараться как можно лучше узнать жизнь. Бабель, которого всегда отличала жажда впечатлений, последовал совету своего «наставника». Он на время перестает писать и погружается в водоворот жизни. Именно стремление узнать жизнь во всех ее противоречиях, во всей ее красоте и неприглядности заставляет Бабеля совершать странные, по мнению многих, поступки, пробовать себя в самых разных профессиональных сферах и часто ходить по лезвию ножа.
С самого начала Бабель был не просто на стороне революции – он был в самом ее сердце. С января по май 1918 года Бабель работает переводчиком в иностранном отделе ЧК и одновременно в петроградской газете «Новая жизнь». В начале 1920 года является заведующим редакционно-издательским отделом Госиздата Украины, однако уже в апреле, получив удостоверение на имя Кирилла Васильевича Лютова, тайком от жены и родных отправляется на польский фронт.
Сперва Бабель работал при штабе армии, а затем перевелся в 6-ю кавалерийскую дивизию. Он участвовал в боях и одновременно печатался в армейской газете «Красный кавалерист». Конармейские впечатления нашли свое воплощение в конармейском «Дневнике» и его своеобразной художественной версии – цикле новелл под названием «Конармия», впервые опубликованном в 1926 году. Затея с распространением революции на территории Польши провалилась. Бабель вернулся в Одессу, где поселился на Молдаванке – улице, ставшей центром криминальной жизни города.
В 1924 году мать, жена и сестра Бабеля уезжают за границу, полагая, что на время, но, как оказалось, навсегда. Бабель остается в России. Один за другим выходят в свет его сборники рассказов: «Конармия», «Одесские рассказы», «История моей голубятни», киносценарии, пьеса «Закат». В конце двадцатых годов Бабель – один из самых известных писателей Советской России. Однако «Конармия» встретила одобрение далеко не у всех читателей, и прежде всего не принял ее сам прославленный командарм Буденный, не обнаруживший в ней «достойного» изображения побед и подвигов героев революции.