В 1934 году Поль резко изменил свою жизнь. Вернулся в Германию, отказался от сана и женился на немке, с которой познакомился в Иерусалиме. Оставшись, по сути, безработным, он решил предложить немецким государственным библиотекам свои услуги ориенталиста, специализирующегося на иврите. Полю повезло, таких вакансий было предостаточно, поскольку евреев из государственных библиотек массово увольняли, а большинство библиотекарей-ориенталистов были евреями. Благодаря владению языками и политической лояльности Поля наняли в качестве специалиста по гебраистике в Прусскую государственную библиотеку, крупнейшее книжное собрание Германии. Библиотечному делу он обучался уже на работе, по вечерам.
Мечте Поля о научной карьере так и не суждено было сбыться. Он подал заявление на написание докторской диссертации по ориенталистике в Университете Фридриха-Вильгельма, ведущем высшем учебном заведении Берлина; диссертацию предстояло посвятить древнеизраильскому обществу. Но заявление отклонили на том основании, что претендент не знаком с современной библеистикой. Он сделал вторую попытку, предложив тему о взаимоотношениях еврейства и большевизма – она была особенно дорога Гитлеру и нацистской партии, однако факультет ориенталистики счел, что она больше подходит для политических наук. В итоге Поль остался библиотекарем, а в качестве отхожего промысла занялся антисемитской пропагандой: публиковал статьи о вредоносности Талмуда, в частности, в бульварной антисемитской газете «Дер Штюрмер» («Штурмовик»). Его книга «Дух Талмуда» пользовалась определенной популярностью и выдержала два издания.
Поль был послушным и добросовестным последователем всевозможных могущественных институтов: сперва – католической церкви, потом – германского нацистского государства. Изучая католицизм, он отточил свой ученый антисемитизм, а потом поставил его на службу нацистам.
В Оперативный штаб рейхсляйтера Розенберга Поль был зачислен в качестве специалиста по гебраистике в июне 1940 года. Через девять месяцев его назначили старшим библиотекарем недавно созданного во Франкфурте Института изучения еврейского вопроса – одного из основных центров юденфоршунга. Его обязанности на двух работах во многом пересекались. Он воровал материалы по иудаике для ОШР и отсылал награбленное в институт, в котором быстро собралась изумительно богатая библиотека