В возрасте 9 лет папа взял Ганнибала с собой в Испанию, где собирался возместить своему городу утраты, понесенные в течение Первой Пунической войны. Точно неизвестно, пошел ли Гамилькар в Испанию по своей инициативе или был выслан карфагенским правительством. Накануне кампании Гамилькар преподносил жертвы всевышним, а позже жертвоприношения он кликнул к себе Ганнибала и задал вопрос, желает ли он пуститься в путь с ним. Когда мальчик с радостью дал согласие, Гамилькар заставил его поклясться перед алтарем, что он всю свою жизнь будет непримиримым врагом для Рима. По словам Полибия и многих остальных писателей, Ганнибал лично рассказал сирийскому царю Антиоху III эту ситуацию. Фраза «Ганнибалова клятва» стала крылатой.
Прибыв в Гадес, карфагенскую колонию в Испании (Иберии), Гамилькар приступил к захватническим кампаниям. Его миссией стало «поправить в Иберии положение Карфагена».
Со временем Ганнибал стал принимать участие в кампаниях отца, где приобрел необходимый военный навык. Первым делом Гамилькар отвоевал золотые и серебряные рудники сьерры Морена и возродил чеканку серебряной монеты, необходимой для выплаты Риму. Около 230 года до н. э. Гамилькар создал новый город Акра Левка для формирования надежного тыла и усиления карфагенского могущества.
Зимой 229/228 годов до н. э. Гамилькар погиб в поединке с племенем оретанов. К моменту гибели Гамилькара Ганнибалу исполнилось 17 лет. После смерти отца он вместе с братьями оставил Испанию и возвратился в Карфаген. Атмосфера военного лагеря, участие в походах, наблюдения за дипломатической деятельностью отца и зятя, бесспорно, оказали решающее влияние на формирование личности Ганнибала как военачальника и государственного деятеля. Армейские качества Ганнибала, – смелость, осторожность, выдержка, неугомонность, простота – все они сформировались, безусловно, под личным влиянием Гамилькара. Он не только стремился приучать собственных детей, прежде всего, Ганнибала, к активной общественно-политической работе в будущем. Он стремился подчеркнуть свое стремление ввести Карфаген в греческий мир – и гарантировать ему подмогу и отзывчивость греков в грядущей войне с римскими «варварами».
Едва весть о смерти Гамилькара донеслась до Акра Левке, верховное руководство пунийскими войсками взял на себя его зять Гасдрубал – на тот момент капитан одного из кораблей, долгое время бывший его «правой рукой». Гасдрубал продолжил завоевание Иберии, и Ганнибал был руководителем конницы под его командованием. Гасдрубал сотворил город Новый Карфаген, тот, что стал столицей карфагенской Иберии.