С марта по июнь он прошёл расширенное обучение в подготовительной школе полицейского резерва, где постигал основы уголовного права, регламентировавшие полицейскую службу нормативно-правовые акты, уставы, делопроизводство и антропометрию. Параллельно обучению под руководством Петровского он проходил практическую подготовку в летучем отряде: с другими надзирателями совершал обходы для задержания преступников, вникал в сложное устройство уголовного мира Петербурга. После сдачи экзаменов он в должности полицейского надзирателя сыскной полиции приступил к службе в Четвёртом полицейском отделении Санкт-Петербурга, в Первом участке Выборгской части, расположенном в северной части города13.
В уголовном сыске, где возраст сотрудников располагался в диапазоне от двадцати пяти до сорока пяти лет, Пётр оказался самым молодым сыщиком, но при этом одним из самых результативных. В январе 1906-го года дав шанс дерзкому 22-летнему наглецу проявить себя, Филиппов не прогадал. За два года службы Петру удалось раскрыть пять запутанных убийств и двенадцать грабежей, что было выдающимся результатом: многие надзиратели не могли похвастаться таковым и за десять лет своей службы.
Любимцем Филиппова Пётр стал в октябре 1906-го года, когда ему буквально в одиночку удалось распутать сложнейшее дело убийства купца на Выборгской набережной. Это было его первое расследованное убийство, запомнившееся сыску «Делом Серебряного кольца».
Во время нападения трёх разбойников, вооружённых револьверами, на зажиточный купеческий дом, хозяин был застрелен, а жена с двумя дочерями тяжело ранены. Забрав с собой награбленные ценности, трое злоумышленников, лица которых были сокрыты шарфами, скрылись задолго до прибытия на место происшествия полиции. Никаких примет по ним не было. Мать и двое дочерей, тяжело раненые и вдобавок избитые, находились в шоковом состоянии и поэтому никаких деталей по внешнему виду негодяев не запомнили14. Дело выглядело абсолютно бесперспективным.
Пётр, отправленный новым помощником Филиппова Кошко (недавно пришедшим в уголовный сыск из дворцовой полиции) в госпиталь для опроса младшей дочери купца (которой один из нападавших сперва выстрелил в живот, а затем сильно избил), обратил внимание на ссадины потерпевшей. На нежной коже девичьего лица отпечатался повторённый в двух местах странный след от левого кулака: плотно прилегающие друг к другу едва заметные косые чёрточки. Предположив, что такие следы могло оставить кольцо, расположенное на среднем пальце злоумышленника, Пётр доложил об этом Кошко. Фотограф сыскного отделения, немедленно высланный тем в госпиталь, произвёл съёмку этих отпечатков. С распечатанной фотографией Пётр отправился по ювелирным магазинам Петербурга и после нескольких дней мытарств сумел обнаружить серебряное кольцо в виде змейки, форма которого подходила под отметины. Таких колец петербуржским ювелиром было отлито всего двенадцать штук, поэтому покупателей одиннадцати из них установили. Выяснилось, что у одной покупательницы – довольно полной дамы преклонных лет – кольцо отобрал уличный грабитель. Под угрозой револьвера его пришлось отдать. Лицо грабителя было сокрыто шарфом, но женщине удалось разглядеть, что у того отсутствовало левое ухо, словно отрезанное.