Вскоре Завадовский подготовил и представил императрице «План к установлению народных училищ в Российской империи», согласно которому в губернских городах учреждались четырехклассные народные училища, а в уездных – двухклассные малые народные училища. Формально эти школы были всесословными и содержались за счет государства. После представления планов обучения 26 февраля 1785 года Екатерина II назначила Завадовского заведовать Пажеским корпусом. Параллельно он стал управлять Медико-хирургической школой.
Медицинское образование в России того времени оставляло желать лучшего, и Петр Васильевич решил заняться его серьезным реформированием. Он изучил систему медицинского образования за рубежом. «Теперь в Вене похваляется новозаведенное хирургическое училище, во Франции сия наука процветает; английские же госпитали общее мнение почитает первыми на свете», – писал Завадовский. Он предложил Екатерине II отправить лучших учеников для получения образования за границу, а также преобразовать Медико-хирургическую школу в Хирургическую академию. Совместно с А.М. Вейкартом и И.З. Кельхерном Завадовский написал ее устав; когда же «необходимое строение и у нас поспеет, то можно взять из духовных семинарий и малороссийских школ 150 студентов в ученики на казенное содержание, как в Главном народном училище, и обучать всему, что предписано». Далее в этом же докладе императрице Завадовский доказывал, что «хотя считается за сущую пагубу незнающий лекарь, но сие зло у нас по настоящей бедности медицинского факультета не токмо терпимо, но и распространяется, понеже не лекари мест, а места лекарей ищут». Императрица Екатерина II одобрила план Завадовского, выделила ему на решение указанных задач го тысяч рублей, а также обязала специально готовить лекарей для нужд армии и флота.
Как следует из писем Завадовского к Безбородко, главная проблема, с которой он столкнулся, заключалась в полном отсутствии дисциплины, «пренебрежении о должностях»: иные профессора «по несколько месяцев не бывали в школах и оставляли праздными свои классы». Как выяснилось, одной из причин подобного поведения стало то, что профессорам нерегулярно платили жалованье. Завадовский поправил положение, и это отчасти решило проблему.
В 1786 году императрица Екатерина утвердила разработанный под руководством Завадовского «Устав народных училищ», на основании которого были также составлены «Правила для учащихся народных училищ» и «Руководство учителям первого и второго разряда народных училищ Российской империи». Особенностью этой реформы было то, что создавалась единая система светской школы: малое народное училище, главное училище, университет – с единой методикой преподавания и учебными планами. За последующие три года главные народные училища были открыты в 25 губернских городах. Обучение в них было бесплатным.