В Москве А. Ф. Мерзляков быстро стал самым известным и авторитетным молодым поэтом. В 1801 году он основал литературное общество и разработал его программу, отразившую и взгляды юного поэта на развитие литературы. Эти взгляды ярко выражены в его характеристике русской песни, опубликованной в «Вестнике Европы»: «О, каких сокровищ мы себя лишаем! Собираем древности чуждые, не хотим заняться теми памятниками, которые оставили знаменитые предки наши. В русских песнях мы бы увидели русские нравы и чувства, русскую правду, русскую доблесть. В них бы полюбили себя снова… Но песни наши время от времени теряются, смешиваются, искажаются и, наконец, совсем уступят блестящим безделкам иноземных трубадуров. Неужели не увидим ничего более подобного несравненной песне Игоря?»
Первыми членами общества стали будущий наставник А. С. Пушкина и воспитатель Александра II поэт В. А. Жуковский, братья Кайсаровы, братья Тургеневы и другие начинающие литераторы. Будущий профессор А. С. Кайсаров написал такие фундаментальные труды, как «Мифология славянская и российская» и «Об освобождении крепостных в России», будущий академик А. И. Тургенев собрал в зарубежных архивах документы по Древней Руси, будущий основоположник финансовой науки в России Н. И. Тургенев стал одним из учредителей Северного общества декабристов.
Песни и первые русские романсы А. Ф. Мерзлякова распевала Москва, затем Петербург и вся Россия, многие из них пережили столетия и стали «народными»: «Чернобровый, черноглазый», «Ах, девица-красавица!», «Не липочка кудрявая», самый популярный романс XIX века «Среди долины ровныя…» и многие другие. Одновременно юный поэт учился, писал научные труды, защищал диссертацию, прошел все должностные ступени и в 26 лет, в 1804 году, стал профессором «красноречия, стихотворства и языка российского», затем заведующим кафедрой и деканом Московского университета. Впервые в Московском университете А. Ф. Мерзляков ввел курс русской литературы с разбором лучших произведений отечественной прозы и поэзии. В Московском университете и благородном пансионе его лекции и наставления слушали и воспринимали будущие звезды «золотого века», в их числе П. А. Вяземский, П. Я. Чаадаев, А. С. Грибоедов, Ф. И. Тютчев, Н. Ф. Павлов, А. И. Полежаев, Д. В. Веневитинов, А. И. Герцен, В. Г. Белинский, М. Ю. Лермонтов, домашним учителем которого, а затем наставником в благородном пансионе был А. Ф. Мерзляков. Литературный критик, автор учебников и теоретик литературы А. Ф. Мерзляков одним из первых познакомил Россию с античными и средневековыми авторами своими переводами Вергилия, Еврипида, Овидия, Софокла, Гомера, Горация, Данте Алигьери, Тассо и др.