第一次直奉战争结束后，直系军阀控制了北京政权，积极推行其企图以武力统一中国的政策。奉系军阀也尽力扩军备战，准备再次与直系争夺中央政权。
1924年9月，直系江苏军阀齐燮元与皖系浙江军阀卢永祥爆发了浙江战争。9月3日，张作霖通电谴责曹、吴(即直系)攻浙，并以援助卢永祥为名，组织“镇威军”，自任总司令，将奉军编为6个军；总兵力约15万人，于9月15日分路向榆关(即山海关)、赤峰、承德方向进发，第二次直奉战争爆发。
第二次直奉战争，从1924年9月15日到11月3日，一共打了50多天，最后是以直军主力的全部覆没和吴佩孚的狼狈南逃而告结束。在直系军阀垮台之后，张作霖违背他“奉军不入关”的诺言，挥军进入了北京，并排斥冯玉祥，实际上控制了由段祺瑞任“中华民国临时执政”的北京政权，把中国人民又拖进了新的痛苦的深渊。