唐太宗和魏征的君臣关系一直以来都被传为千古佳话，魏征直谏敢言，唐太宗善于纳谏，二人和群臣一起开启了贞观之治，使得大唐的国力蒸蒸日上。
李密在瓦岗寨起兵后，魏征与李勣等人在账下听命。武德二年，李密被王世充击败，魏征跟随李密归降了李唐。李勣占据原来的地方不知何去何从，魏征便上书请求安抚山东，并亲自劝降李勣。同年，朝廷又派魏征、李勣押运粮草，窦建德率军将魏征、李勣等人俘获。在李世民击败窦建德后，魏征才得以再次入唐。李渊认为魏征很有才能，便任用魏征为太子洗马，为东宫李建成效劳。
玄武门事件后，李世民抓住魏征，见魏征说话直爽没有丝毫隐瞒，便任用他为詹事主簿。魏征一生以敢直言劝谏闻名，他曾向李世民面陈谏议有五十次，呈送给李世民的奏疏有十一件，一生的谏诤多达“数十余万言”。并且他所提的这些建议唐太宗都给与了高度的重视。
魏征一生著有《隋书》序论，《梁书》、《陈书》、《齐书》的总论等。其言论多见《贞观政要》，其中最著名的一文为《谏太宗十思疏》。
贞观十七年，魏征病逝，李世民为此五天不上朝。魏征死后半年，李世民便开始怀疑魏征在朝廷内有结党营私的嫌疑，于是先解除了与魏征长子的婚约，最后甚至下令推倒了魏征的墓碑。就这样，被誉为“镜子”的魏征便被李世民亲手摔碎了。
在小说《西游记》中，魏征于梦中将泾河龙王斩杀，泾河龙王阴魂不散，李世民便派秦琼、尉迟恭在正门保驾，魏征抱剑守后门。就这样秦琼、尉迟恭与魏征便成了门神，其中双门贴秦琼和尉迟恭，单门贴魏征。