Заслуги А. В. Квитки в турецкую кампанию были отмечены производством в чин подполковника, награждением орденами Владимира 4-й степени с мечами, Анны 2-й степени с мечами и золотым Георгиевским оружием (за мужество при взятии Гривицкого редута). Впоследствии он опубликовал свои воспоминания о Русско-турецкой войне («Записки казачьего офицера»), вышедшие отдельной книгой в 1903 году. В дальнейшем подполковник А. В. Квитка принимал участие в Ахалтекинской экспедиции в Туркмению под началом генерала М. Д. Скобелева (в 1880–1881), проходил службу в Башкирском конном полку и Хоперском конном полку Кубанского казачьего войска и вышел в отставку в 1884 году.
Примерно в конце 1880-х годов Андрей Валерьянович женился на Вере Дмитриевне Мартыновой, родной племяннице Н. С. Мартынова, участника трагической дуэли с М. Ю. Лермонтовым 15 июля 1841 года. Брак оказался бездетным.
Находясь в отставке, значительную часть времени А. В. Квитка проводил в Италии и Южной Франции (из-за «непереносимости российских зим»), охотился на лис в окрестностях Рима, путешествовал, катался на яхтах. В Париже Андрей Валерьянович работал в художественной академии Жюлиана, а в 1897 году по представлению князей Трубецкого и де Маврокордато стал постоянным членом Клуба артистического Союза. Это был элитный клуб, членами которого являлись неравнодушные к искусству представители мировой аристократии. С этого времени подполковник принимал активное участие во всех мероприятиях, устраиваемых клубом в Париже: выставках, концертах, вечерах и т. и.
Помимо собственности за границей, А. В. Квитка приобрел имения на Черноморском побережье Кавказа, теплый климат которого как нельзя лучше подходил для него. Одно из них находилось в районе Туапсе, другое – между Сочи и Хостой. В своих новоприобретенных имениях супруги Квитки активно занимались виноделием, участвовали в выставках, а сам Андрей Валерьянович стал членом наблюдательного совета Варваринского училища плодоводства, виноградарства и виноделия.
В 1904 году, с началом Русско-японской войны, уже немолодой подполковник запаса подал прошение о направлении в действующую армию. Прошение было удовлетворено, и Андрей Валерьянович получил назначение во 2-й Нерчинский полк Забайкальского казачьего войска в чине войскового старшины на должность помощника командира полка по строевой части. Его супруга, Вера Дмитриевна, также отправилась на театр военных действий в качестве сестры милосердия в санитарном поезде императрицы Александры Федоровны.