对于顽固的叛乱部落，张合则果断出击。在葵园峡之战中，他利用羌族骑兵“善散战、不善列阵”的弱点，以“车阵”围之——将战车围成圆形，步兵持长矛于阵内，骑兵藏于阵后，待羌军冲至近前，突然从车阵缝隙中射出弩箭，随后骑兵杀出。

    此役过后，陇右诸胡“望风归附”，张合也因功晋封“征西车骑将军”。

    建兴六年（228年），诸葛亮首次北伐，陇右三郡响应，关中震动。

    曹叡急召张合进宫，将节钺交到他手中：“西方有事，非君莫可付者。”

    张合率军星夜驰援，抵达街亭时，见蜀汉先锋马谡屯兵于南山之上，不禁哑然失笑：“谡徒能读父书，岂知实战？”

    他先命人切断山下水源，然后围山而不攻，静待蜀军自乱。

    三日后，山上缺水，士兵“饥渴难忍，自相践踏”，马谡下令突围，却遭张合伏兵夹击。

    此战蜀军“士卒离散，死者甚众”，街亭一失，诸葛亮“进无所据”，只得挥泪斩马谡，退回汉中。

    张合却在战后感叹：“诸葛公真乃劲敌，惜乎所用非人！”

    太和五年（231年），诸葛亮第四次北伐，因李严运粮不济，被迫撤军。

    曹叡命张合率军追击，张合却面露忧色：“兵法云‘归师勿遏’，诸葛亮善用伏兵，不可轻追。”

    然而曹叡执意催促，张合只得领命。

    五月的陇西山地，细雨绵绵。

    张合率军追至木门道（今甘肃天水南），见道路狭窄，两侧峭壁如刀削，心中警铃大作。

    他勒住坐骑，命前军暂停前进，亲自率斥候登山侦察。

    果然，透过雨幕，他望见远处密林中隐约有旗帜晃动，山涧中还散落着蜀军遗弃的军械——这分明是诱敌之计！

    “速退！”张合大喊一声，却为时已晚。

    但闻诸葛亮一声令下，预先埋伏的连弩手万箭齐发，箭矢破空之声如厉鬼呼啸。

    张合急挥长枪拨打飞箭，却见一支淬毒的弩箭擦过他的膝盖，剧痛瞬间蔓延全身。

    战马受惊前冲，将他甩落于乱石滩上，鲜血迅速渗入泥泞的土地。

    部将慌忙将他救起，张合却按住伤口，喘息着下令：“整军结阵，交替撤退……勿中敌军合围之计……”

    话音未落，便昏迷过去。当晚，曹军退至安全地带时，张合已因毒发与世长辞，享年五十八岁。

    消息传至洛阳，曹叡恸哭流涕，追谥其为“壮侯”，厚葬于河间郡老家。

    诸葛亮在祁山大营得知张合死讯，沉默良久，对姜维叹道：“张合用兵，可谓‘神变’。吾今日虽退，曹魏失去此柱石，北伐之势，或可再兴。”

    而在民间，却流传着不同的说法：有人说张合早知必死，却无法抗命，临终前曾望着南方苦笑：“吾一生避危就安，终死于君命，此乃将之宿命也。”