В 1854 г. по окончании семинарии Голубинский на казенный счет был послан в Московскую духовную академию (МДА). Историк отмечает в «Воспоминаниях», что в академии профессоров слушали плохо. Исключение он делает для бакалавра Священного Писания иеромонаха Михаила Лузина, чьи лекции о Бауэре и Штраусе считались тогда выдающимися и их слушали внимательно. Оказал решающее влияние на воспитание Голубинского как ученого и его земляк профессор Александр Васильевич Горский.
Голубинский все свое время отдавал учебе, которая предусматривала ежемесячное написание сочинений по каждому предмету. Из них наиболее высоко были оценены его сочинения по истории, истории литературы и Новому завету.
10 февраля 1859 г. Голубинский получил степень магистра богословия за первую научную работу – курсовое сочинение «Об образе действования православных государей греко-римских в IV, V и VI веках в пользу церкви, против еретиков и раскольников» (М., 1859; 2-е изд. М., 1860). Тема, заданная Синодом, предполагала использование исторического опыта первых веков для борьбы со старообрядцами и сектантами. Голубинский хорошо знал старообрядчество и позднее написал большую историческую работу «К нашей полемике со старообрядцами» (М., 1896; 2-е изд. М., 1905). В ней он собрал исторические и археологические материалы, объективно разрешающие многие спорные вопросы, приведшие к расколу. Этот труд серьезно подрывал противораскольническую пропаганду. Что касается сектантов, то их нравственность он ставил в пример в своих публицистических статьях. Но пока что, будучи студентом, он вынужден был писать по теме, формулировка которой противоречила его христианским понятиям – он вовсе не считал, что насильственные меры против раскольников приносят пользу церкви. Сочинение пришлось переписывать. Его окончательный вариант был правлен А. В. Горским, в угоду вкусам начальства дополнившим его «полицейским красноречием» (как выразился в своих «Воспоминаниях» Голубинский) о благодетельности мер против еретиков и раскольников.
Творческая атмосфера, в которой началась учебно-научная деятельность Голубинского (с 1859 г. профессора Вифанской семинарии, а с 1861 г. – бакалавра МДА по кафедре Русской церковной истории) описана в незаконченной статье И. А. Голубцова, помещаемой в приложении к данному изданию