При Дзержинском возник конфликт между разведкой и дипломатией, который не улажен и по сей день.
В конце 1921 года народный комиссариат по иностранным делам переехал в дом бывшего страхового общества «Россия» на Кузнецком мосту (дом номер 21/5), где располагался до 1952 года, когда дипломатам передали только что отстроенное высотное здание на Смоленской площади.
От наркомата до здания ГПУ (впоследствии ОГПУ) на Лубянке буквально два шага, и дипломаты несколько иронически называли чекистов «соседями». Это словечко прижилось и употребляется до сих пор.
Но отношения у двух ведомств были отнюдь не добрососедскими, тем более что второй в истории Советской России нарком иностранных дел Георгий Васильевич Чичерин позволял себе то, на что не решатся его преемники, он открыто спорил с чекистами и возмущался применявшимися ими методами работы.
Нарком Чичерин вообще был человеком не от мира сего. Идеалист, глубоко преданный делу, он вошел в историю как трагическая фигура, не приспособленная для советской жизни. И этот человек, в котором не было ничего советского, установил основные принципы советской дипломатии, продолжавшие действовать почти до самого распада Советского Союза.
Между Дзержинским и Чичериным было много общего. Дворяне из образованных семей, они были неутомимыми и добросовестными тружениками, идеалистами, преданными делу людьми. Но их взгляды на пути построения коммунизма сильно разошлись.
8 марта 1925 года Дзержинский обиженно писал члену политбюро Григорию Евсеевичу Зиновьеву: «Для ОГПУ пришла очень тяжелая полоса. Работники смертельно устали, некоторые до истерии. А в верхушках партии известная часть начинает сомневаться в необходимости ОГПУ (Бухарин, Сокольников, Калинин, весь наркомат иностранных дел».
Главным своим внутренним врагом Чичерин называл Коминтерн. У Советского Союза в 20-х годах были две политики: государственная, которую осуществляли Чичерин и наркомат иностранных дел, и коминтерновская.
Призывы руководителей Коминтерна и Советского Союза к мировой революции, обещания поддержать вооруженное восстание пролетариата, откровенная помощь компартиям подрывали усилия советской дипломатии поладить с окружающим миром.
Скажем, Москва деньгами и оружием помогала немецким коммунистам, полагая, что мировая революция начнется в Германии. Одновременно Москва тесно сотрудничала с правительством Германии и с рейхсвером, который сокрушал коммунистов.