В конце 1929 года власти приговорили владыку Илариона к трем годам ссылки в Казахстане. Самое мучительное было то, что к месту ссылки, через всю страну, владыка должен был ехать этапным порядком, останавливаясь на неопределенный срок в пересыльных тюрьмах. Почти сразу же после отправки на материк его обокрали, и в Ленинград он прибыл на праздник Введения во храм Пресвятой Богородицы уже больным, в кишащем паразитами рубище.
19 декабря владыка был помещен в тюремную больницу им. Гааза, путь к которой ему пришлось пройти пешком, страшно изнемогая от болезни. Из больницы он писал: «Я тяжело болен сыпным тифом, лежу в тюремной больнице, заразился, должно быть, в дороге, 28 декабря решается моя участь (кризис болезни), вряд ли переживу…»
В больнице ему сказали, что его надо обрить, владыка ответил: «Делайте со мной теперь, что хотите…» В бреду он говорил: «Вот теперь-то я совсем свободен». По рассказу М.Ф.Анфимовой, дочери последнего протодиакона Воскресенского Новодевичьего монастыря, перед смертью владыку Илариона причастил Святых Христовых Таин келейник митрополита Серафима (Чичагова) иеромонах Никандр.
За несколько минут до кончины к нему подошел врач и сказал, что кризис миновал и теперь он может поправиться. Святитель в ответ едва слышно сказал: «Как хорошо. Теперь мы далеки от…» И с этими словами тихо скончался. Преставился владыка 28 декабря 1929 года, в 4 часа 20 минут утра.
Митрополит Серафим (Чичагов), занимавший тогда Санкт-Петербургскую кафедру, попросил для погребения тело почившего святителя. Власти поставили условие, чтобы не было никаких надгробных речей. Ночью грубо сколоченный гроб выдали родственникам. Святителя было невозможно узнать. В гробу лежал изможденный старец с обритой головой. Владыке Илариону было всего 43 года.
Тело почившего владыки в белом архиерейском облачении самого митрополита Серафима было положено в другой, лучший гроб. Отпевание было совершено в Воскресенском соборе Новодевичьего монастыря. В отпевании и погребении принимали участие митрополит Серафим (Чичагов), архиепископ Хутынский, будущий патриарх Московский Алексий (Симанский), епископ Николай (Ярушевич), епископ Лужский Амвросий (Либин), епископ Лодейнопольский Сергий (Зенкевич) и множество духовенства.
На отпевание пришло несколько тысяч верующих, народом был заполнен весь монастырский двор и прилегающее кладбище. Надгробные речи были запрещены, но владыка Николай так прочитал заповеди блаженства, что все присутствующие рыдали. Каждая из этих заповедей была исполнена святителем: «Блажени нищии духом… Блажени миротворцы… Блажени, егда поносят вас… Радуйтеся и веселитеся, яко мзда ваша многа на небесех»…