穆罕默德去世后，公众推选他的岳父阿布·伯克尔继承了他的职位，称为“哈里发” （即“继承人”的意思）。阿布刚一即位，就发生了内部叛乱。当阿布·伯克尔让大家拿主意时，众首领都推诿起来。这时，从座位中站起一个人来，大声说道：“我愿带兵平定这场叛乱。”众人一看，此人是哈立德。有人愿意出战，哈里发当然高兴，于是下令叫哈立德统率军队前去迎敌。穆斯林的军队与叛军在阿克拉巴进行了一次决战。战斗开始不久，叛军不断猛攻，穆斯林的军队节节败退。前方队伍不得不派人向哈立德求援。为了激发他们各自的斗志，哈立德对他们说：“你们现在只有各自作战，谁也增援不了你们！”使者回去以后，穆斯林的军队见无路可退，只能决一死战。他们拼死压住阵脚，勇猛冲杀过去，结果敌军无一生还，连叛军的首领也被杀身亡。经此一战，哈立德从此崭露头角，成为穆斯林的杰出将领，人们送他“安拉之剑”的美称。