Отряд, формировавшийся Светлейшим князем А.П. Ливеном из русских офицеров, сначала был известен как «Либавская добровольческая группа», или «Либавский добровольческий стрелковый отряд». В отряд вступила и часть офицерства Псковского корпуса, отрезанная при отступлении от него и попавшая в Либаву. Первоначально он насчитывал только 60 человек, почти все офицеры. Помощником князя Ливена был полковник В.Ф. Рар. 15 января формирование было закончено, и по соглашению с Балтийским ландесвером отряд временно вошел в его состав. К 9 февраля в отряде насчитывалось около 100 человек, из которых более половины офицеры. В конце февраля в отряд вошла бывшая ранее в составе ландесвера рота капитана К.И. Дыдорова. В начале марта Ливенский отряд насчитывал 250 человек, в дальнейшем он (эскадрон – 100 человек, пулеметная команда – 125 и рота – 250 штыков) вместе с частями Латвийской армии и Балтийского ландесвера сражался против красных войск в Курляндии. К июню он насчитывал 3500 человек: 3 полка, Стрелковый дивизион, артиллерия, 2 броневика и авиационный отряд.
Тогда же вместе с отрядами полковников П.Р. Бермондта (отряд имени графа Келлера) и Вырголича он вошел дивизией в Западный корпус Северной армии. Летом 1919 года Ливенский отряд перебазировался в Эстляндию и вошел в состав Северо-Западной армии как 5-я («Ливенская») дивизия. Части Бермондта и Вырголича остались в Латвии, образовав Русскую Западную армию. После совещания с представителем Юденича предполагалось, что она (включившая в себя оставшиеся немецкие войска и выросшая до 50 тысяч человек) будет наступать совместно с Северо-Западной армией, и 5 сентября Бермондт-Авалов был назначен Юденичем командующим всеми русскими частями, сформированными в Курляндии и Литве. Однако Бермондт начал 8 октября наступление на Ригу против латышских националистов, а потерпев неудачу, отошел в Германию.
Северо-Западная армия с лета 1919 года состояла из корпусов (развернутых из прежних бригад) и дивизий. 1-й Стрелковый корпус состоял из 2-й (Островский, Уральский, Талабский и Семеновский полки и отряд поручика А.Д. Данилова) и 3-й (Волынский, Ревельский, Балтийский и Красногорский полки) дивизий и Конно-Егерского полка (бывший конный отряд полковника А.И. Бибикова). 2-й корпус был составлен из войск С.Н. Булак-Булаховича. В состав 1-й дивизии (отдельной) входили Георгиевский, Колыванский и Гдовский полки.