Подверглась коренной реорганизации система военного образования. Была создана сеть военных училищ, в которые принимались имеющие среднее образование. По результатам работы Особой экзаменационной комиссии (1865) были напечатаны «Соображения по пересмотру курсов и учебных занятий в Николаевской академии Генерального штаба», в соответствии с которыми преобразован учебный процесс, разработано новое «Положение» и программа для Николаевской академии Генерального штаба. Для выпускников академии введен обязательный стаж командования отдельными строевыми частями. Кадетские корпуса были преобразованы в военные гимназии, были учреждены юнкерские училища, открыт Педагогический музей, печатный орган «Педагогический сборник». При активнейшем участии Милютина разрабатывались уставы, многие положения которых сохранились по настоящее время.
В пехоте ввели шестилинейные винтовки и наладили их переделку в скорострельные и заряжающиеся с казенной части, артиллерия получила медные нарезные пушки. Центральное военное управление было приведено к виду, просуществовавшему до 1917 года. Выпущено «Положение для Генерального штаба» (1865). Утверждено «Положение о полевом управлении войск» (17.4.1868), новое положение с учетом опыта франко-прусской войны 1870—1871 гг. (1876).
Первый крупный эффект реформы принесли уже в войну с Турцией (1877—1878 гг.). Мобилизация в ноябре 1876 года прошла в течение 15 суток, на 42 – е сутки было завершено сосредоточение войск на театре военных действий.
Утвержден членом комитета по делам Царства Польского (22.11.1866?), а также Особого совещания по урегулированию отношений России с Ватиканом. Петербургский университет присвоил звание доктора русской истории (28.11.1866). Избран почетным членом Академии наук (9.12.1866). Присвоено звание почетного члена Московского университета (12.01.1867). Избран почетным членом Императорского русского географического общества (17.01.1868). Почетный член Николаевской инженерной академии (24.11.1869), Михайловской артиллерийской академии (1870) и Николаевской академии Генерального штаба (1872).
На театре военных действий русско-турецкой войны 1877—1878 гг. (21.5—10.12.1877), после неудачи 3-го штурма Плевны один решительно высказался против отхода, и по его настоянию была организована осада Плевны. Назначен шефом 121-го пехотного Пензенского полка (17.04.1877).