Отмечая бесконечную доброту своей жены, И. В. Гессен через годы после ее смерти писал: «Сомневаюсь, что я в состоянии был вынести сыпавшиеся одну за другой неудачи, если бы не встретил ее моральной поддержки, если бы не опирался на ее несокрушимую уверенность». Он подчеркивал, что она так сумела принять его сына Сергея, что появление четвертого ребенка в семье не вызвало никаких толков среди окружавших. Узнал же Сергей о том, что она не его мать, чисто случайно в Петербурге, когда ему на глаза попалось письмо его настоящей матери из Ташкента, где она жила, выйдя замуж. «Причем, – отмечал И. В. Гессен, – он был привязан к ней нежнее, чем ее сыновья, и отношения между четырьмя мальчиками, а потом и юношами, не оставляли желать ничего лучшего». Чтобы получить возможность усыновить Сергея, И. В. Гессен и Анна Исааковна крестились. Тогда-то он и сменил отчество Саулович (или Шевелевич, или Савельевич) на Владимирович. По этому поводу он писал: «Как раз в это время появился благодетельный закон 1891 г., вводивший институт усыновления, дотоле допускавшийся только по царской милости. Но для усыновления требовалось, чтобы я принял православие, что должна была совершить и жена для устранения препятствий к нашему браку. Вместе с тем последствием крещения было устранение формальной препоны к поступлению на государственную службу. Но именно потому, что крещение предвещало избавление от ограничений, личные выгоды, – отречение от веры отцов далось нелегко. Настоящей привязанности к религии, конечно, не могло быть никакой, бессознательное тяготение тоже было ликвидировано, потому что ассимиляция быстро продвигалась вперед, в нашей семье еврейский ритуал давно уже стал сходить на нет, и незначительные остатки, напоминавшие о нем только в большие праздники, все определеннее принимали форму мертвой обрядности, ничего не говорящей уму и сердцу»[14].
В браке с Анной Исааковной Штейн у И. В. Гессена родилось еще два сына: Владимир Иосифович (Осипович) Гессен (1901–1982) и Георгий Иосифович (Осипович) Гессен (1902–1971). Старший сын, экономист по образованию, был журналистом и публицистом, сотрудником газеты «Новое русское слово». Младший сын работал переводчиком в ООН.
В 1891 году И. В. Гессен обратился в Департамент полиции МВД с просьбой дать ему благоприятный отзыв для определения кандидатом на судебную должность. Ходатайство было удовлетворено, в 1893 году ему было разрешено жить во многих городах, даже в Москве, и он тогда же с семьей переехал в Тулу, где занял должность секретаря окружного суда. Вспоминая потом этот период, он писал: «Тульский суд оказался превосходной практической школой, и написанные мною тысячи решений по разнообразнейшим гражданским спорам выработали здоровое юридическое мышление, способность к правильному анализу и отчетливому выделению сущности спорного правоотношения».