Некоторое время прослужил на юридической должности в Главном штабе Военного министерства, что заставило его почувствовать непреодолимое влечение к судебной работе. В апреле 1866 года перешел в Санкт-Петербургскую судебную палату на должность помощника секретаря по уголовному департаменту и в последующие годы сменил несколько должностей в разных городах. В Санкт-Петербург А. Ф. Кони возвратился через 6 лет, в 1871 году, и уже прокурором Санкт-Петербургского окружного суда.
В этой должности он работал более четырех лет, в течение которых руководил расследованием наиболее сложных уголовных дел и выступал обвинителем в суде. В это время А. Ф. Кони приобрел широкую известность как судебный оратор, его обвинительные речи печатались в газетах.
В июле 1875 года он был назначен вице-директором департамента Министерства юстиции и вновь вернуться к судебной работе решил лишь в январе 1878 года – уже на должности председателя Санкт-Петербургского окружного суда.
24 января 1878 года В. И. Засулич пыталась убить выстрелами из пистолета петербургского градоначальника Трепова. Преступление вызвало широкий резонанс, причем в обществе преобладало сочувствие к обвиняемой. По этой причине следствие по делу велось в быстром темпе, с исключением всякого политического мотива; уже к концу февраля дело было готово к передаче в суд. А. Ф. Кони получил распоряжение министра юстиции графа К. И. Палена назначить дело к рассмотрению на 31 марта. Министр юстиции и император Александр II требовали от А. Ф. Кони, как только что назначенного председателя Санкт-Петербургского окружного суда, гарантий, что В. И. Засулич будет признана виновной, но Анатолий Федорович таких гарантий не дал. Тогда министр юстиции предложил ему намеренно допустить в ходе процесса какое-либо нарушение закона, чтобы была возможность отменить решение в кассационном порядке. На что А. Ф. Кони ответил: «Я председательствую всего третий раз в жизни, ошибки возможны и, вероятно, будут, но делать их сознательно я не стану, считая это совершенно несогласным с достоинством судьи!»
В процессе, под председательством А. Ф. Кони, революционерка В. Засулич была оправдана присяжными, но для него самого с этого вердикта начались годы опалы.
Через много лет, будут еще и высокие чины, и звания, но, отказывая императору, судья не мог этого знать, зато А. Ф. Кони точно знал, что неминуемо попадет в немилость, последствия которой неизвестны, и сделал свой выбор – выбор в пользу Правосудия.