Приступая к изучению институциональной экономики необходимо, прежде всего, знать особенности и сложности институциональной теории, которая играет большую роль в развитии современного общества. Важно правильно определить предмет институциональной экономики. Институциональная экономика изучает институциональные экономические отношения, организующие взаимодействие индивидов и различных субъектов общественного производства.
Институциональная экономика выполняет следующие функции: познавательную, практическую, мировоззренческую и социальную. Она основывается на следующих основных принципах: институтоцентризма, несводимости, ограниченной рациональности, историзма. Принцип институтоцентризма утверждает, что невозможно изучать какой-то экономический процесс, отвлекаясь от конкретной институциональной формы. Принцип несводимости устанавливает четкую границу между социальным и естественнонаучным знанием. Принцип ограниченной рациональности означает, что индивид, принимающий решения, не в состоянии учитывать все возможные альтернативы при формировании и решении задачи, так как внимание и интеллект человека являются ограниченными ресурсами. Принцип историзма утверждает, что явления экономической жизни невозможно объяснить, не принимая во внимание сложившиеся социально-культурные институты, то есть образ и стиль мышления, особенности мироощущения, привычки и традиции.
Основными методами институциональной экономики являются: диалектический, научной абстракции, метод анализа и синтеза, метод индукции и дедукции, исторический, социологический.
Особое внимание в данной науке уделяется понятию институт, с которым связаны другие понятия: организация, трансакционные издержки, права собственности, оппортунистическое поведение. Дуглас Норт понимает под институтами правила игры в обществе, которые организуют взаимоотношения между людьми. Хайек считал, что институты располагаются между разумом и инстинктами. Это то, что выражается в повседневных действиях людей. В современных учебниках по институциональной теории под институтами понимается ряд правил, которые выполняют функцию ограничений поведения экономических агентов и упорядочивают взаимодействие между ними, а также соответствующие механизмы контроля за соблюдением данных правил. В неоинституциональной экономической теории в качестве институтов рассматривают деньги, собственность, налоги, кредит, рынок и т. п.