Начало объединению учителей положил съезд деятелей средней и низшей школы, созванный и проведенный в Праге в апреле 1923 г., на который прибыли полномочные представители школьных учреждений из разных стран – Чехословакии, Германии, Франции, Англии, Болгарии, Польши, Финляндии, Латвии, Эстонии, Бельгии. Ряд делегатов, представлявших учительские союзы, приняли участие в организационном съезде русских педагогов, на котором было создано Объединение русских учительских организаций за границей. Главной задачей Объединения в первую очередь являлась забота об образовании русских детей, всемерное содействие в трудоустройстве своих членов, облегчение их материального положения, защита прав, установление связей с другими учительскими организациями и правительственными учреждениями, подготовка кадров для будущей России. При создании Объединения, без сомнения, был использован опыт работы существовавшего еще в России Всероссийского учительского союза, членами которого являлись многие педагоги-эмигранты. В 1928 г., когда отмечался пятилетний юбилей создания Объединения, в ознаменование этого события был выпущен значок с изображением К. Д. Ушинского, который носили учителя русских эмигрантских школ.
Исполнительным органом Объединения являлось Правление, которое ежегодно переизбиралось на делегатских съездах. Правление состояло из девяти человек, из которых пять должны были проживать в Праге и быть членами Союза русских педагогов средней и низшей школы в Чехословакии, остальные четыре представляли педагогические объединения в других странах: один член от Польши, один – от балканских стран, один – от западноевропейских стран и один – от прибалтийских государств. В первый состав Правления были избраны: А. В. Жекулина (председатель), В. Н. Светозаров, А. П. Петров, В. С. Грабовый-Грабовский, В. А. Ригана, Н. А. Ганс (представитель Англии, Франции, Бельгии, Германии), Н. Н. Кузьминский (представитель Латвии, Эстонии, Финляндии).
Выполняя решения 1-го делегатского съезда, Правление много внимания в своей деятельности уделило разработке проектов «Положения об управлении эмигрантской школой», «О правах и обязанностях педагогического персонала и школьной администрации», которыми должны были руководствоваться русские школьные заведения в разных странах.