三国演义》中张郃第一次登场还是很拉风的，作为袁绍手下的河北名将，在官渡之战中与张辽大战大战四五十回合不分胜负，曹操暗暗称奇，许褚助战，高览接住，四将大战无结果。后来曹操火烧袁绍在乌巢的粮草，张郃和高览害怕袁绍怪罪，便一起带兵投降了曹操。曹操得一大将，也是高兴万分。
本以为张郃从此开挂了，没想到碰到刘备的几个五虎将就开始拉稀，简直是罗贯中老先生专门用来给五虎将刷数据的，被赵云、马超、张飞、黄忠等轮流刷了一遍，看看他和五虎将单挑情况，简直惨不忍睹。
对战赵云：穰山之战中，曹操设计大破刘备，刘备被张郃、高览围困，赵云冲阵而来，将高览刺落马下，随后与张郃大战，二人交锋三十回合，张郃拨马败走。
对战马超：在马超复仇之战中，张郃是第二个与马超交锋，单挑二十回合后败走，表现得不如对战赵云时，在嘉靖本更丢人，仅仅三合就败给马超。
对战张飞：张郃进攻巴西，与张飞对垒，两人单挑二十余合后，张郃后军被蜀军包抄，张郃不敢恋战，拨马回走。
挑战黄忠：刘备让黄忠与严颜救援葭萌关，张郃与黄忠大战二十余回合后，严颜从小路抄在张郃军后。两军夹攻，张郃大败。
不过好在和张飞、黄忠的单挑都是二十几回合没有分出胜负，就因为后军被包抄，张郃赶紧喊停，拨马回走，估计张郃已经心虚了，再战估计就拉胯了，正好借坡下驴，撤吧。
到了三国后期，跟着曹刘两位大哥（孙十万那边也没个像样的猛将）杀伐天下的猛将们病的病，死的死，蓦然回首，除了“老卖年糕”的赵云，便只剩下张郃了，张郃终于“媳妇熬成婆”，另外，张郃在和五虎将交手的时候偷师学了不少挤艺，这个昔日五虎将用来刷数据的经验包倒也镀了不少金，经验值和武力值均大涨。到诸葛亮北伐时，张郃已经是天下无敌的猛将了，每次把诸葛亮逼得窘迫的，都有张郃的身影，成了让诸葛亮非常忌惮的敌手。
先是取得街亭大捷：在街亭之战中，蜀汉将领马谡依傍险要的南山扎寨，没有下山占据城池。张郃断绝了他取水的道路，然后发起进攻，大败马谡。后面蜀将王平来救，张郃与王平交战，战有十余合，王平力穷势孤，只得退去。
再是直取诸葛亮：司马懿让张郃与戴陵劫营，反被诸葛亮设计围困，张郃纵马挺枪，杀上山来直取诸葛亮，山上矢石如雨，张郃不能上山，乃拍马舞枪，冲出重围，无人敢当。这时候戴陵被蜀军围困，张郃冲出重围后不见不见戴陵，当即奋勇翻身又杀入重围，救出戴陵而回。诸葛亮见张郃勇猛无敌，认为一定要除去此人。
最后是魂断木门道：诸葛亮第四次北伐，诸葛亮令魏延诱敌，魏延与张郃战不十合，诈败而走，张郃见没有伏兵，又策马追击，转过山坡时，与关兴交战，战不十合，关兴拨马便走。之后魏延和关兴轮流与张郃交战，大致都是打个十回合后退走，直到木门道时，张郃被乱箭射死。
关于张郃的死，有一种说法是，张郃受司马懿所迫而领兵追击蜀军，追至木门，中箭身亡。不管怎样，昔日的曹魏名将就这样凋谢了。
