1 декабря 1945 года было подписано Постановление Совета Народных Комиссаров СССР об организации Лаборатории № 3 АН СССР, директором которой был назначен академик Алиханов. В 1947 году лаборатория была преобразована в Теплотехническую лабораторию АН СССР, а в 1958 году – в Институт теоретической и экспериментальной физики Академии наук, директором которого А. И. Алиханов был до июля 1968 года.
С 1947 года был научным руководителем работ по проектированию и строительству первого советского опытного реактора на тяжелой воде. В 1949 году был введен в строй первый в СССР исследовательский реактор на тяжелой воде. С апреля 1948 года Алиханов также являлся научным руководителем строительства первого советского промышленного тяжеловодного реактора.
За исключительные заслуги перед государством при выполнении специального задания Правительства Указом Президиума Верховного Совета СССР от 4 января 1954 года (под грифом «секретно») Алиханянцу Абраму Исааковичу присвоено звание Героя Социалистического Труда с вручением ордена Ленина и золотой медали «Серп и Молот».
Его научные интересы и опубликованные работы посвящены ядерной физике, физике космических лучей, физике и технике ядерных реакторов, ускорительной технике, физике элементарных частиц.
В 1947–1951 годах заведовал кафедрой строения вещества физико-технического факультета Московского государственного университета.
Такая напряженная работа не могла не отразиться на здоровье. Первый инсульт случился еще во времена работы над первой атомной бомбой, второй произошел после конфликта с Н. С. Хрущевым в 1964 году. В 1968 году, после третьего инсульта, Алиханов был вынужден покинуть пост директора института по состоянию здоровья.
Он стал членом-корреспондентом Академии наук в 1939 году, академиком АН СССР в 1943 году. Академик АН Армянской ССР с 1944 года. Был членом зарубежных академий: Сербской академии наук и искусств (1962), Академии политических и социальных наук (США, Филадельфия).
Умер 8 декабря 1970 года. Похоронен на Новодевичьем кладбище в Москве.
Награжден тремя орденами Ленина (1945, 1953, 1954), орденом Трудового Красного Знамени (1964). Лауреат трех Сталинских премий (1941, 1948, 1953).
Имя академика Алиханова в 2004 году присвоено Институту теоретической и экспериментальной физики Академии наук.