При этом институт окончил только в 1929 году и первую научную работу опубликовал практически одновременно с окончанием института. С 1932 года стал директором лаборатории позитронов этого института.
В начале 1930-х годов Алиханов работал над сооружением циклотрона Радиевого института под руководством В. Г. Хлопина вместе с Г. А. Гамовым, И. В. Курчатовым и Л. В. Мысовским. В 1934 году вместе с А. И. Алиханьяном и М. С. Козодаевым открыл образование электронно-позитронной пары в результате внутренней конверсии энергии возбужденного ядра, в 1936 году вместе с А. И. Алиханьяном и Л. А. Арцимовичем экспериментально доказал сохранение энергии и импульса при аннигиляции электрона и позитрона.
Артем Алиханьян – родной брат Абрама Алиханова, и они часто работали вместе, проводя научные исследования, например, обнаружив зависимость формы спектра от порядкового номера элемента в таблице Менделеева. Они же впервые предложили идею опытов для доказательства реальности существования нейтрино, осуществили ряд экспериментов по физике космических лучей на горе Арагац, которые стимулировали развитие нового направления – физики элементарных частиц.
Алиханов защитил докторскую диссертацию в 1935 году.
Также в 1939–1941 годах он был преподавателем и заведующим кафедрой физики Ленинградского института инженеров железнодорожного транспорта. В начале Великой Отечественной войны вместе с институтом уехал в Казань, а в 1942–1943 годах Алиханов с группой сотрудников находился в командировке в Армении, организуя работы по физической тематике и участвуя в создании Армянского физического института.
В 1941 году вместе с братом получил Сталинскую премию второй степени за научные работы по исследованию радиоактивности, опубликованные в 1936, 1938 и 1940 годах.
В 1943 году стал участником советского атомного проекта, одним из ведущих создателей первой советской атомной бомбы. Сначала был зачислен в Лабораторию № 2 Института физических проблем АН СССР. В августе 1945 года был утвержден в должности ученого секретаря Технического совета Спецкомитета Государственного Комитета Обороны (затем – Первого Главного Управления (ПГУ) при Совете Министров СССР). С 9 апреля 1946 года член Научно-технического совета ПГУ.
На заседании Специального комитета 30 ноября 1945 года ему было поручено руководить группой ученых (Л. Д. Ландау, Ю. Б. Харитон, А. Б. Мигдал, С. А. Рейнберг, М. А. Садовский, С. С. Васильев и А. П. Закощиков). Они получили задачу на основании доклада П. Л. Капицы о последствиях применения атомных бомб в Хиросиме и Нагасаки проанализировать все имеющиеся материалы и определить эффективность фактора взрывной волны, фактора теплового и фактора радиоактивного излучения.