军是国家的名将，刘备也害怕。
现在形势紧迫，非张将军不能安定军心。”于是便推张郃为主帅。张郃出面调度部队排列阵势，众将都服从张郃的命令，军心这才安定下来。曹操在长安，派使臣送给张郃节钺。曹操于是亲自到汉中，刘备守住高山不敢出战，曹操便领出汉中各路军队。张郃回军屯驻陈仓。曹丕即位，任命张郃为左将军，晋封都乡侯爵位。等到曹丕作了皇帝，又晋封他为..侯。下诏命令张郃与曹真征伐安定一带的卢水胡人和东部羌人。又召张郃与曹真到许昌宫朝拜，派张郃南下同夏侯尚进攻江夏。张郃独率几路军渡过长江，夺取了百里洲上的屯坞。魏明帝即位，派张郃到南方屯军荆州，与司马宣王进攻孙权部下将领刘阿等人，追到祁口，两军交战，大破刘阿。诸葛亮率军出祁山，明帝赐予张郃特进的职位，派他总督各路军马，在街亭阻挡诸葛亮部下将领马谡。马谡依傍南山扎寨，没有下山占据城池。张郃断绝了他取水的道路。发动进攻，大败马谡。南安、天水、安定各郡叛变响应诸葛亮，张郃领兵打败叛军，平定了这几处地方。
明帝下诏说：“贼人诸葛亮把巴、蜀的乌合之众，号称九虎虎之师。将军披坚甲、执利器，到一处平定一处，朕要嘉奖你的大功，增加食邑一千户，连同以前的共四千三百户。”司马宣王在荆州治理水军，打算沿着沔水进入长江讨伐东吴，明帝下诏命令张郃统率关中的部队去听从司马宣王的调度。到荆州以后，碰上冬天，水浅大船不能行进，于是就在方城屯驻。诸葛亮再次出山，对陈仓突然发动进攻。明帝派驿马召张郃到京城，明帝亲自到河南城，设置酒宴为张郃送行，派南北士兵三万人以及武卫、虎贲护卫张郃，因而问张郃说：“等将军到了那儿，诸葛亮怕已经占领了陈仓吧！”张郃知道诸葛亮孤军深入没有粮草，不能久攻，回答说：“臣还没到那儿诸葛亮就已经撤走了。屈指计算，诸葛亮的部队粮草支撑不了十天。”张郃昼夜行军到达南郑，诸葛亮撤退了。诏令张郃回师京城，拜他为征西车骑将军。张郃懂得事物的变化规律，善于安营布阵，根据地形布置战役计划，没有不如他所料的情况，从诸葛亮到蜀中各位大将都惧怕他，张郃虽然是武将却喜欢同儒士交往，曾经推荐同乡卑湛，说他经学通达行为高尚，明帝下诏说：“从前祭遵任将军，奏设五经大夫，处在军队中，唱雅诗投壶为戏。现在将军在外统率军旅，在内还维护朝廷礼仪。朕非常感谢将军的美意，准许提拔卑湛为博士。”诸葛亮再次从祁山出动，诏命张郃统领众将西到洛阳，诸葛亮退守祁山，张郃追到木门谷，与蜀
