Было установлено, что все представители правящей династии обязательно должны были становиться военными. Другой вид деятельности просто не рассматривался. Поэтому юных великих князей приучали к воинской службе. С самого рождения великие князья зачислялись в какой-либо из гвардейских полков. Не стал исключением и Николай Николаевич, фактически с самого рождения начав, хотя и чисто формально, военную службу в лейб-гвардии Гусарском полку и гвардейском Сапёрном батальоне.
Детские годы молодого Николая были омрачены разладом в семье. Николаю было около 10 лет, когда его отец фактически оставил законную супругу и завёл новую семью. Это обстоятельство затрудняло общение сына с родителем. Они всё более отдалялись, поскольку Николаша, так его звали в семье, принимал сторону несчастной матери.
Постоянное отсутствие отца приучило молодого великого князя к самостоятельности и наложило определённые обязательства свойственные главе семьи.
Прежде всего, это отразилось на взаимоотношениях братье. Николай навсегда стал для младшего брата Петра единственным наставником и непререкаемым авторитетом.
Пётр Николаевич сохранит привязанность к старшему брату до конца жизни. Лишённый отца младший брат буквально боготворил Николашу. А во время войны не покидал его ни в Ставке, ни на Кавказе. Держался подле него и в эмиграции.
В десятилетнем возрасте к Николаши приставили воспитателя гвардейского сапёра капитана Василия Даниловича Скалона (1835 – 1907). Василий Данилович был человек военный, требовательный, но ни строгий. Его главной задачей было выработать у воспитанника высокую дисциплинированность и верность долгу в служении царю и Отечеству.
Однако, столкнувшись с упрямым и вспыльчивым воспитанником, В.Д. Скалон вынужден был бороться с проявлениями его «дурных наклонностей». Бессердечие и злобность были главными недостатками Николаши, особенно хорошо контрастировавшие на фоне мягкого и добродушного младшего брата Петюши.
Юный великий князь в детстве не расставался с хлыстом. Его любимым занятием было, щёлкать хлыстом, прохаживаясь по дворцу. Однажды он шокировал своего воспитателя тем, что лупил по голове палкой собаку, изощряясь выбить оба глаза животного. Страсть орудовать хлыстом не пропала. Будучи уже важным генералом Николай Николаевич в сердцах на военных смотрах безжалостно бил своего жеребца. А на любимой охоте охаживал кнутом нерасторопных егерей.