231年春天，諸葛亮第四次北伐中原，以木牛運(yùn)糧，包圍祁山。又招攬鮮卑人軻比能，軻比能起兵到石城響應(yīng)蜀軍。因曹魏大將曹真病重，曹睿改派司馬懿為統(tǒng)帥屯于長(zhǎng)安，領(lǐng)張郃、費(fèi)曜、戴陵、郭淮等人抵抗。司馬懿先派費(fèi)曜、戴陵與四千精兵前往上邽防守，自己則率其他兵力解救祁山。張郃則認(rèn)為該分兵駐守雍、郿，但司馬懿認(rèn)為若分軍不及合軍有利，便向西推進(jìn)。諸葛亮知道后，留下王平繼續(xù)領(lǐng)軍攻打祁山，自己率主力迎戰(zhàn)司馬懿。其后諸葛亮在上邽打敗了魏將郭淮、費(fèi)曜，并收割了魏軍的麥糧，與司馬懿軍在上邽之東遇上，司馬懿深知蜀軍勞師遠(yuǎn)襲，糧食補(bǔ)給困難，因而憑險(xiǎn)堅(jiān)守，拒不出戰(zhàn)，諸葛亮便回軍鹵城。

司馬懿進(jìn)軍鹵城，但卻登山掘營(yíng)，與蜀軍對(duì)峙，不與交戰(zhàn)。張郃認(rèn)為蜀軍從遠(yuǎn)來(lái)攻，“孤軍食少”，必然想要速戰(zhàn)速?zèng)Q。所以應(yīng)該以大軍屯于此處，然后分為奇兵，包抄蜀軍，截?cái)嗥浜舐?。但司馬懿不采納。魏軍將領(lǐng)數(shù)次請(qǐng)戰(zhàn)，司馬懿都不準(zhǔn)，諸將十分不滿(mǎn)，便譏笑他：“公畏蜀如虎，奈天下笑何!”。在眾將的一再要求下，司馬懿只好派張郃攻于南圍的無(wú)當(dāng)監(jiān)王平，由案中道進(jìn)逼蜀軍，自己則率眾迎擊諸葛亮。諸葛亮派大將魏延、高翔、吳班分三路領(lǐng)兵作戰(zhàn)，大敗魏軍，光斬獲魏軍三千多人，獲得戰(zhàn)利品玄鎧五千、角弩三千多。從此司馬懿再不敢輕易出戰(zhàn)。

六月，諸葛亮眼見(jiàn)糧草接應(yīng)不上，而又收到下令北伐軍撤退的召命，諸葛亮惟有引軍退回。司馬懿欲遣張郃追擊蜀軍，張郃認(rèn)為“圍師必闕，歸師勿遏”，不贊同追擊未被被打敗而主動(dòng)撤退的蜀軍。但司馬懿堅(jiān)持要張郃領(lǐng)兵追擊，張郃無(wú)奈前往追擊。最后于木門(mén)道，被埋伏于高處的蜀軍射中右膝，傷重病逝。