На территории Австрии черный орел впервые появился в XII в. на печати Генриха II – первого австрийского герцога из династии Бабенбергов.
В 1273 г. Австрией стала править династия Габсбургов, гербом которой был красный лев в золотом поле.
Однако гербом австрийских земель остался прежний красно-бело-красный, увенчанный короной.
Герб Цесаря Римского. «Портреты, гербы и печати большой государственной книги 1672 г.» СПб. 1903.
Провозгласив себя императором Австрии Францем I, император Священной Римской империи Франц II учредил государственным гербом новой империи черного двуглавого орла Священной Римской империи, учрежденного императором Священной Римской империи Сигизмундом (1410—1437), с мечом и скипетром, увенчанный короной, на груди которого был австрийский «Bindenschild» – щит с серебряным поясом в красном поле.

Вскоре на груди орла, в зависимости от родословной императора, стали появляться и другие гербы. Некоторое время щит был рассеченным, одну часть его занимал серебряный пояс в красном поле, а другую или в золотом поле красный лев с голубым вооружением, языком и короной (герб Габсбурга) или в красном поле золотой замок (герб Кастилии). После брака эрцгерцогини Австрии Марии-Терезии с герцогом Лотарингским Францем Стефаном в 1736 г. щит на груди орла стал дважды рассеченным: герб Габсбургов, герб Австрии и герб Лотарингии (в золотом поле красная правая перевязь обремененная тремя серебряными алерионами).
На малом гербе империи щиток на груди орла был окружен цепью Ордена Золотого Руна, а сам орел был увенчан тремя золотыми императорскими коронами. В правой лапе орел держал скипетр и меч натуральных металлов, а в левой – золотую державу.
Веками Габсбурги, ведя успешные войны или заключая с выгодой династические браки, расширяли свои владения, поэтому австрийский герб приобретал все новые и новые части. На нем, кроме гербов Австрии и рода Габсбургов, появлялись гербы Швабии (три льва), Чехии (двухвостый лев), Бургундии (перевязи), Штирии (дракон), Тироля и Крайны (орлы) и др. и к началу XVIII в. австрийский герб включал в себя гербы 26 территорий.
В 1804 г. под давлением Наполеона Бонапарта император Священной Римской империи из династии Габсбургов Франц II отрекся от имперского престола и провозгласил себя императором Австрии под именем Франц I, а двуглавый орел был утвержден официально ее гербом. Причем были утверждены Большой (полный), Средний и Малый гербы.