В 1669 году Иван Степанович переходит на службу казачеству. Поочередно состоя в ближайшем окружении гетманов Дорошенко и Самойловича, Мазепа проявил умение очаровывать и убеждать, которое, быть может, унаследовал от матери и которое сохранил до старости. Своим тонким нюхом он первый почуял, что гетманские мечты опереться на поляков при создании независимой Малороссии обречены на неудачу: казаки сами выдавали Москве изменников. Прочность гетманства на Украине теперь целиком зависела от его верности России. Мазепа не стал терять время на приобретение популярности среди казачества. Вместо этого он вошел в доверие к князю Голицыну и в 1687 году, после аресте Самойловича, получил гетманскую булаву.
Итак, вторая «измена», на этот раз делу «Речи Посполитой Украинской». Но ошибочно видеть в Мазепе вечного изменника – Польше, Самойловичу, Петру, делать из него прирожденного вероломного негодяя. Мазепа принадлежал тому поколению украинцев, которые в силу обстоятельств и вследствие неразвитого национального самосознания, по словам современника, служили «двум или трем сторонам». Нравы эпохи и необходимость лавирования между Польшей и Россией делали ницшеанский принцип «Падающего – толкни», в свое время принятый за новое откровение дьявола, очевидной и наиболее простой философией политического выживания.
Верность Москве Мазепа долгое время хранил вполне искренне. Он был тесно связан с правительством царевны Софьи и вместе с князем Голицыным ходил против турок в Крым. Падение Софьи поставило его в сложное положение. Мазепа поехал в Троице-Сергиеву лавру на встречу с Петром. Речи гетмана понравились семнадцатилетнему царю, и с тех пор Петр видел его ежегодно и советовался с ним о государственных делах. Некоторые историки полагали даже, что именно Мазепа посоветовал царю напасть на Швецию, чтобы отвлечь внимание России от Украины.
Ни один малороссийский гетман не пользовался таким доверием московского правительства, как умный, любезный и образованный Иван Степанович Мазепа. Царские милости – похвалы, соболя, меха, кафтаны – из года в год сыпались на него. В 1696 году он выговорил себе у Петра город Янполь, чтобы в случае его смерти «было где прожить вдове». Царь охотно удовлетворил эту просьбу.
«Счастье удивительно служило Мазепе, но никто, лучше Мазепы, не умел помогать своему счастью», – говорит русский историк Ф. Уманец.