Помимо служебной деятельности, П.Б. слушал лекции в Императорском С.-Петербургском Археологическом Институте, где окончил курс и, за особые труды по археологии, был удостоин звания почетного члена Института. Кроме того П.Б. состоял членом Постоянной Комиссии народных чтений и за свою полезную деятельность был избран ее почетным членом. В течение многих лет принимал деятельное участие в работе издательской комиссии Общества Грамотности и сотрудничал во многих периодических изданиях.
Среди своих служебных обязанностей П.Б. постоянно помнил о своей родине. Так по его инициативе, на его родине в селе Ильинское, Костромской губернии, Кинешемского уезда, была устроена церковно-приходская школа, о поддержке которой он заботился до последних дней своей жизни, состоя ее попечителем. В Петербурге П. Б. основал Общество попечения о бывших студентах Ярославского Демидовского Юридического Лицея, где, как было сказано выше, П.Б. получил высшее образование, и состоял товарищем председателя Общества, которому был предан всей душой.
Так разнообразна была деятельность П. Б. Ко всякому делу, за которое брался П.Б., он относился с любовью и отдавался ему всей душей. Как человек непрестанного труда, без которого П.Б. скучал, он, всегда живой и энергичный, идеально честный и справедливый, поступал открыто и смело, что немало вредило его служебной карьере. Будучи в высокой степени религиозным и нравственным человеком, он смотрел на семейную жизнь как истинный христианин – своих пасынков воспитывал как родных детей, всю жизнь заботился о них и дал возможность закончить образование. Личность П. Б. ярко вырисовывается в его поэтическом творчестве.
Литературная деятельность П.Б. началась с раннего возраста. В 1862 году, будучи десятилетним мальчиком, он написал первые стихотворения: «К Царю», «Воспоминание», «К Родине», «Кораблекрушение», «Уж ты, поле мое, поле». В 1864 году появились «Лесной пожар», «Труженик», «Умирающий воин» и многие другие.
Во всех стихотворениях П.Б. высвечивается его чистая душа, честный взгляд на жизнь, любовь к родине и религиозное чувство; особенно удачны его стихотворения религиозного характера. Кроме стихотворений П.Б. написал много прозаических сочинений и научных статей, оставшихся неизданными.
Да, этот человек работал не для славы, он был незаметным тружеником земли Русской, не кричавшим о себе, а работавшим в тиши на пользу отечества.