Через несколько месяцев по окончании войны с Швециею, князь Потемкин, расформировав, по большому некомплекту, существовавший с 1703 года Санкт-Петербургский гренадерский полк, велел сформировать вместо его новый полк того же имени, с строгим наблюдением, чтобы в офицеры его, особенно в батальонные командиры, выбраны были лица, известные начальству с отличной стороны.
Барклай де Толли был из первых, назначенных в этот полк, и, командуя батальоном, участвовал в Польской войне 1794 года. Особенно отличился он при взятии приступом укреплений города Вильны и истреблении близ Гродно отряда полковника Грабовского.
В этом последнем деле он находился в отряде – начальствовавшего впоследствии на Кавказе – генерал-майора князя Цицианова, и по его ходатайству был произведен в подполковники, с переводом в Эстляндский егерский корпус, командиром 1-го батальона. Виленское дело доставило ему Георгиевский крест 4-го класса. То были последние награды, полученные Барклаем де Толли от императрицы Екатерины.
Император Павел I, в самом начале своего царствования, 29 ноября 1796 года, расформировал все егерские корпуса, на отдельные егерские батальоны, переименованные через пять месяцев в егерские полки и получившие нумера, с 1-го по 17-й, включительно. Вверенный Барклаю де Толли батальон был назван 4-м егерским батальоном; 17 мая 1797 года наименован 4-м егерским полком, 31 октября 1798 года егерским Барклая де Толли полком, а 29 марта 1801 года, вскоре по воцарении императора Александра, 3-м егерским.
Название это он сохранял в продолжение четырнадцати лет и имел Барклая де Толли своим шефом до 1 сентября 1814 года, когда звание шефов было оставлено только в полках гвардии. Во время начальствования 3-м егерским полком при императоре Павле, Барклай де Толли был произведен, 7 марта 1798 года, в полковники, а 2 марта 1799 года в генерал-майоры, отличаясь исправным содержанием своего полка и самым точным исполнением служебных обязанностей.
Однажды знаменитый полководец громкого Екатеринина века, фельдмаршал князь Репнин, окончив смотр состоявшему в его инспекции и квартировавшему на прусской границе, близ Полангена, полку Барклая де Толли, и разговаривая в карете с адъютантом своим, Федором Петровичем Лубяновским (ныне сенатор), услышал конский топот. Выглянув в окно кареты, он увидел провожающего его верхом Барклая де Толли и, попросив его не беспокоиться дальнейшим проводом, сказал Лубяновскому: «Меня уже не будет на свете, но пусть вспомнят мои слова: этот генерал много обещает и далеко пойдет».