Давид Гримм родился в Санкт-Петербурге, в 1841-ом году окончил гимназический курс главного училища Св. Петра (немецкой Петершуле) и поступил в Петербургскую Академию художеств. После подготовительного курса перешёл на обучение в художественную мастерскую архитектора А. К. Брюллова. После участия в архитектурном проекте он уже в 1943-ем году награждён малой серебряной медалью. В том же году за освоение практического курса отмечен ещё одной малой серебряной медалью, а в 1845-ом – большой серебряной медалью за проект театра, и – малой золотой медалью за проект женского монастыря.
Талант юноши заметили. О нём заговорили. Проекты, изумительные по изящности исполнения, принесли ему широкую известность. В 1848-ом году он стал обладателем золотой медали за проект соборной церкви в русском стиле московских церквей и получил право отправиться за казённый счёт за границу для совершенствования художественных способностей.
Напряжённая политическая обстановка в Европе помешала исполнению задуманного плана. Но Давид Гримм добил разрешения выехать на Кавказ и в Закавказье. В течение года знакомится там с церквями и соборами Грузии и Армении, занимается их измерением, делает зарисовки, чертежи. По возвращении из поездки по Закавказью, на основании отчёта о проделанной работе, командирован Академией художеств в Западную Европу для изучения опыта строительства церквей в Голландии, Англии, Испании. Через Малую Азию переезжает в Грецию. Древнегреческие храмы поражают его утончённой пропорциональностью. И он упорно ищет утерянные правила этой пропорциональности, изучая фундаментальные сооружения разных веков и народностей. Ещё не зная, куда приведут его поиски, он подсознательно чувствует, что в этом труде – его предназначение.
Отчёты Давида Ивановича из-за рубежа в Петербургскую Академию художеств свидетельствуют о его целеустремлённости, трудолюбии и силе духа. Он прибывает в Италию, которая с неимоверной силой влечёт его монументальными памятниками византийской старины, посещает там множество храмов. На некоторое время поселяется в Риме, где продолжает изучение теории пропорциональности. Ту же миссию выполняет в Германии, Бельгии, Англии.
В 1855-ом году Давид Гримм возвращается в Петербург. За проделанную работу ему присваивают звание академика архитектуры и обеспечивают средствами на два года – для приведения в порядок записей по наблюдениям, сделанным на Кавказе. Над темой зодчества Закавказья он работает до 1863 года, создаёт научный труд под названием «Памятники византийской архитектуры в Грузии и Армении», единственное издание по данной теме, которое до сих пор считается непревзойдённым.