В 1863 году Военно-морскую тюрьму в Новой Голландии существенно реконструировали, после чего она официально стала называться «Военно-исправительной тюрьмой морского ведомства Балтийского флота». Проектом военного инженера, штаб-капитана Н. А. Лифантьева в первом этаже здания предусматривалось помещение канцелярии и тюремных камер для осужденных на длительные сроки. Второй и третий этажи отводились для военнослужащих, приговоренных на непродолжительные сроки тюремного заключения. В процессе реконструкции здания тюрьмы укрепили капитальными внутренними стенами, на втором и третьем этажах заделали стенные проемы и усилили фундамент строения.
Тюремный режим исправительного заведения предусматривал использовать камеры только для ночного времени и сна заключенных. Весь световой период арестанты работали, им даже начислялась зарплата. В дневное время камеры превращались в своеобразные производственные мастерские. Проектом предусматривалось обустройство одиночных камер, площадью 25 кв. аршин каждые, при «весьма достаточной» высоте. Тюремные окна располагались настолько высоко, что арестант не мог обозревать площадь тюремного двора. В каждая камере стояла койка и наглухо прикрепленный к полу табурет. В дневное время койки поднимались к стене и закрывались на замок.
На втором этаже, разделенном на 6 отсеков, обустроили 80 камер-одиночек, а третий этаж с 7 тюремными отсеками насчитывал 95 камер одиночного содержания. В тюрьме велось регулярное наблюдение за каждым узником одиночной камеры через дверные смотровые проемы. По заключению ведомственной санитарной службы, все камеры достаточно эффективно проветривались и отапливались из котельной тюрьмы через трубы в стенах и над полом одиночек.
В здании тюрьмы существовала церковь Святителя Николая, действовавшая в Военной исправительной тюрьме вплоть до 1918 года.
Заключенных обычно привлекали к работам в мастерских. Ассортимент вырабатываемой ими продукции бывал весьма разнообразным. Они выполняли столярные, токарные работы, ткали маты, изготовляли обувь и одежду. Считалось, что Военно-исправительная тюрьма Морского ведомства в Новой Голландии являлась по оценке Морского министерства «учреждением, организованным на началах рациональной системы, используемой в практике мест заключения европейских государств».