关羽和张辽是在一次战斗中认识的，不过因为两个认识老乡的原因，很早的时候就知道对方的名号了，之后不打不相识，既是老乡又是互相敬重的人，英雄相惜也是彼此间心灵的感应。
当时吕布率大军来攻打刘备的时候，张辽和关羽大战数十回合不分胜负，此对对方产生了畏惧之心，之后关羽怒斥吕布为什么偷袭自己，而张辽本身就为吕布偷袭徐州感到不耻，被关羽这么一说，更没有勇气在和关羽打下去。
之后张辽放弃了攻打关羽镇守的那个方向，因此英雄相昔，虽然不是在同一个阵营里面，但是两个人已经成为了很好的朋友，毕竟在当时的是年代能够找到一个知己是非常不容易的事情，所以二人私底下深交。
刘备与吕布之间的关系恶化后，吕布被曹操杀于白门楼，当时张辽是吕布的手下，在刘备的唆使下，曹操是想要将张辽杀死的，是关羽跪地为张辽求情，救了张辽一命，之后张辽就跟随着曹操征战沙场，受到曹操的重用。
不过张辽也救过关羽的命，刘备兵败徐州的时候，关羽被曹操生擒，作为敌军的大疆，关羽肯定是被被杀死的，但就是张辽替他说了情，才保住了命，并且劝说关羽和自己一起效忠于曹操。
其后关羽追随曹操长达十余年，在这期间关羽和张辽的关系更加密切了，良禽择木而栖，曹操不是关羽最后的归宿，于是这才有了后面的过五关斩六将，关羽重新回到了刘备的麾下。
最后关羽败走麦城，之后想要带人突出重围，但是被孙权的手下马忠的埋伏，因为关羽誓死不投降，于是和长子关平在临沮被杀害，而张辽是在战场上被吴将丁奉用箭射中，回营后不治身亡。