А работы, разумеется, оказалось немало. Гавриил Романович оказался первым губернатором новообразованной губернии. Она была создана в 1784 году, одной из последних в ходе губернской реформы Екатерины, пытавшейся упорядочить жизнь провинциальной России. Олонецкая губерния вместе с Архангельской образовала наместничество во главе с генерал-губернатором Т.И. Тутолминым, ставшим непосредственным начальником Г.Р. Державина.
Петрозаводск (названный так по Петровскому медеплавильному заводу и Петровской мануфактуре – будущему Александровскому пушечному заводу) был, по сути, единственным крупным городом (статус города получил 21 марта 1777 г.). Кроме него, имелось еще четыре уездных города (Олонец, Каргополь, Повенец и Вытегра), мало чем отличающиеся от больших деревень. Так как в Петрозаводске жили в основном купцы, мещане и рабочие заводов, в канцелярии губернатора работали порой дети и подростки – так высок был дефицит грамотных людей.
Т.И. Тутолмин
Город был сплошь застроен деревянными домами, улицы немощеные и неосвещенные, не было ни больниц, ни училищ, ни, разумеется, библиотек и театра (первой крупной частной библиотекой в городе стала библиотека самого Державина, которую он перевез из столицы, она к тому времени уже насчитывала более 3000 томов книг и журналов). Регулярного сообщения со столицей не было. Пароходы стали ходить из Петербурга в Петрозаводск и обратно лишь в 1860 году.
За свое 13-месячное пребывание в губернии (с сентября 1784 г. по ноябрь 1785 г.) Державин открыл в Петрозаводске первую больницу, аптеку, народные училища, губернский архив, организовал почтовую службу. Он занимался переделом земель государственных крестьян, обеспечивал рекрутские наборы, надзирал за строительством новых домов для крестьян, устранял препятствия для работы олонецких ремесленников, чье мастерство славилось по всей России. А также – разбирал многочисленные жалобы местного населения и расследовал злоупотребления чиновников Казенной палаты.
По заданию Императорской Академии наук составил топографическое и этнографическое описание края. Он объездил всю губернию, побывал в Пудеже, Повенце, Каргополе, Вытегре, Олонце, Лодейном Поле, на Белом море (где едва не утонул) и у водопада Кивач. Путешествовать по губернии было очень сложно, так как «по чрезвычайно обширным болотам и тундрам, летним временем проезду нет, а ездят зимою, и то только гусем; в Кемь же только можно попасть из города Сум на судах, когда молебщики в мае и июне месяцах ездят для моленья в Соловецкий монастырь, а в августе и прочие осенние месяцы, когда начинаются сильные противные погоды, никто добровольно, кроме рыбаков в рыбачьих лодках, не ездит».