司马懿年方廿七，初次随军，却无惧色，拱手道：“明公，可遣使送信与高柔，陈说三事：一，我军只讨匈奴，不图并州；二，许其仍守壶关，我军只借道过境；三，若匈奴破，表其为并州刺史。”
曹操挑眉：“此缓兵之计？”
“亦是攻心之计。”司马懿微笑，“高柔非愚忠之辈。今高干困守晋阳，匈奴肆虐，并州士民怨声载道。他守此关，无非为家族寻条后路。若我给出更好出路，其心必动。”
曹操然之，遣能言辩士陈矫携重礼入关。
陈矫见高柔，果如司马懿所料：高柔虽表面强硬，言辞间却多探听曹操实力、意图。陈矫顺势渲染曹操军威，又暗示“徐康已定洛阳，下一步必图河北并州。届时高将军困守孤关，何以自处？”
高柔犹豫三日。这期间，张合令军士每日在关前操练，阵型严整，杀声震天。又故意放归俘虏，令其在关中散布“曹公十万大军将至”谣言。
九月初三，高柔终于开关。然只许曹操率两万兵过关，余部需留驻壶关以南。
曹操大笑：“足矣！”
亲率两万精锐，携十日干粮，轻装疾进，直扑太原郡。
此时匈奴主力已分批北返，留在并州的只有去卑所部万余骑，正分散在太原、雁门诸县劫掠。
去卑闻曹操来，不以为意：“汉人步卒，能奈我何？”竟率三千骑南下迎击。
两军相遇于汾水河谷。
时值初冬，枯草连天。匈奴骑兵呼啸而来，马蹄踏得黄土飞扬。去卑赤膊挥刀，哇哇大叫。
曹操立于山坡，令徐晃率五千弩手居前，以偏箱车结阵；自率八千步兵居后，长枪如林；两翼各布三千骑兵，由曹真、曹休率领。
“待其冲至百步，弩手齐发；五十步，步兵投矛；三十步，枪阵前突。两翼骑兵听号令包抄，务求全歼！”
“诺！”
匈奴骑冲至。徐晃令旗一挥，千弩齐发！箭矢破空，如蝗如雨。匈奴骑纷纷落马，然其骑术精湛，许多竟俯身马侧，躲过箭雨，继续冲锋。
至五十步，汉军步兵奋力投出短矛。此矛长五尺，铁头木杆，贯力极大。又一批匈奴骑被刺穿，人马俱倒。
去卑暴怒，率亲卫百骑，冒死突阵。竟被他冲破弩阵，杀至枪阵前！
“杀！”徐晃提斧跃马，直取去卑。二将战作一团。去卑力大刀沉，徐晃斧法精奇，斗二十余合不分胜负。
便在此时，曹操令旗再挥。
两翼骑兵如钳合拢！曹真、曹休各率铁骑，从侧后撞入匈奴阵中。匈奴骑被三面夹击，阵型大乱。
去卑见势不妙，虚晃一刀，拨马便走。徐晃哪里肯放，拍马急追。追出三里，去卑坐骑中箭，摔落马下。徐晃赶上，一斧结果性命。
主将死，余众溃散。此战歼匈奴两千，俘八百，缴获战马三千匹。曹操令将俘虏尽斩，首级筑为京观，立于汾水畔，旁立木牌：“犯汉土者，皆此下场！”