Много времени отдавал Цветаев увлечению искусством. В 1881 году он поступил на службу в Румянцевский музей, который ему предстояло возглавлять в первое десятилетие XX века.
Человек отнюдь не знатного происхождения, Иван Цветаев станет заслуженным профессором Московского университета, будет избран почетным членом Болонского и Санкт-Петербургского университетов, но самое главное – создаст в Москве один из крупнейших и наиболее важных музеев не только в масштабах города, но и целой страны.
Музей этот в соответствии с изначальным замыслом Цветаева должен был стать собранием слепков, последовательно отражающим развитие западноевропейского искусства. При создании музея Цветаев равнялся на некоторые европейские образцы, прежде всего на Новый музей в Берлине и Альбертинум – дрезденский Музей скульптуры, основанный профессором Георгом Треем, с которым Цветаев состоял в переписке.
Осуществление столь грандиозного замысла потребовало от Ивана Цветаева многих лет упорного труда – ведь крупному музею в центре города предстояло вырасти из частной инициативы не миллионера и не вельможи, а ученого. В печати и в публичных выступлениях Цветаев упорно доказывал необходимость учреждения Музея. Постепенно ему удалось привлечь к своему делу общественное внимание. Например, значительную сумму денег предоставил Цветаеву чаеторговец К. С. Попов, благодаря чему удалось пополнить Кабинет изящных искусств несколькими десятками новых слепков. Попов, таким образом, стал первым жертвователем будущего Музея, весь последующий процесс создания которого целиком и полностью зависел от многочисленных пожертвований представителей разных слоев общества.
Для сбора пожертвований был учрежден Комитет по устройству Музея. Секретарем его стал сам Иван Цветаев, в то время как должность председателя досталась московскому генерал-губернатору великому князю Сергею Александровичу. Тогда же Цветаев познакомился с крупным фабрикантом, владельцем стекольных заводов Юрием Степановичем Нечаевым-Мальцовым, ставшим главным спонсором всего предприятия. В общей сложности на нужды строительства и приобретение экспонатов Нечаев-Мальцов передаст Комитету около двух миллионов рублей (при стоимости строительства в три миллиона). На деньги промышленника будут закуплены гранит и мрамор для облицовки здания Музея, приобретены копии мозаик из собора Сан-Марко (Венеция), древнеегипетские подлинники и гальванокопии сокровищ Микенского клада.