Держался он при этих визитах спокойно. Входя в кабинет следователя, он оглядывался, как бы ища икону, но ее, естественно, не было, и он крестился на правый угол, в пояс кланялся и только тогда начинал разговор со следователем. Служащие ОГПУ невольно, при его появлении, обнажали головы.
Однажды после обыска владыке было предложено проследовать в милицию для допроса. Это вызвало такие волнения в народе, что для разгона верующих пришлось вызывать конную милицию.
29 октября 1926 года архиепископ был вызван в Воронежское ОГПУ. Архиерею показали телеграмму о вызове его в ОГПУ в Москву. Заподозрив неладное, верующие рабочие отправили в Москву своих представителей для защиты архиерея. Посланцы верующих обратились к находившемуся тогда в Москве на конференции беспартийных председателю Воронежского исполкома, он выслушал их, но в выступлении на конференции заявил:
«Петр Зверев – это духовное лицо, которое под флагом религии может вести и ведет рабочих не туда, куда надо». Затем зачитал телеграмму верующих. По прочтении телеграммы некоторые из делегатов вскочили с мест и стали кричать: «Таких людей клеймить!..» В тот же день была принята резолюция: «Конференция требует тщательного расследования разлагающей единство рабочего класса и враждебной рабочему делу деятельности Петра Зверева… Требует немедленного изолирования и удаления из Воронежской губернии…» А также: «Исключить девять человек, подписавших телеграмму, из профсоюзов и удалить их с производства. Обсудить вопрос об их деятельности и предать суду. Провести показательный процесс! Предать суду Петра Зверева! И наконец – немедленно арестовать архиепископа Петра Зверева». Вскоре к нему явились сотрудники ОГПУ для произведения обыска и ареста.
Когда они начали стучать в дверь квартиры, келейник владыки, архимандрит Иннокентий, покрепче закрыл дверь и задвинул щеколду, и не пускал их до тех пор, пока владыка не сжег все письма и документы, которые могли бы повредить людям. После обыска архиепископ Петр был доставлен в ОГПУ и оттуда в Москву, в тюрьму на Лубянке.
В конце марта следствие было закончено. В обвинительном заключении следователь написал: «Подъем церковнического активизма совпал с приездом в город Воронеж Петра Зверева, прибывшего в качестве управляющего реакционной церковью губернии… Имя Зверева послужило флагом при выступлениях воронежских черносотенцев. Выступавшие добивались для него всяческих гарантий и исключительных правовых положений, используя при выступлениях эти требования как лозунги. Через некоторое время шествия этих депутаций начали принимать характер своеобразных демонстраций, причем участие в последних принимали уже не только церковники, но и прочие граждане города Воронежа…»