建安17年春，诸葛亮从陇西、天水两郡出发，再起5万大军，对盘踞在金城郡的韩遂残余势力发动了进攻。
这一次，天子大军不仅拥有足够的兵力，而且还使用了大批强弩、床弩、火炮等强力武器。
韩遂的兵马一触即溃，被诸葛亮打得落花流水，不断有敌军临阵投降。在经历了一个冬天之后，韩遂兵马的士气不但没有提升，反而降到了冰点。
因为韩遂储备的粮食吃完了，过去的下属和朋友也不来支援他了。由于之前马超破坏了河湟谷地的庄稼，他没能收到秋季的赋税，所以他现在就是坐吃山空，已经没有任何指望了。
而且，韩遂一开战就陷入到了四面楚歌的境地。除了东面的诸葛亮大军，马超在诸葛亮的授意下，率领羌军活动在金城郡的西面，断了韩遂西逃的通道。
韩遂倒是机灵，他知道自己已经大势已去了，于是在诸葛亮大军合围之前，将自己的金银细软、老婆孩子全部打包装车，率领仍然忠于自己的部队约1万人，弃城而走，沿黄河河谷向北逃窜。
等诸葛亮到了金城之后，金城已经形同一座空城。诸葛亮马上派赵云和牵招率两万骑兵向北追赶，最终在一百多里之外追上了韩遂的队伍。
一番激战之后，韩遂率仅存的八千骑兵逃走，将大小车辆全部丢给了赵云。赵云便缴获了韩遂的大批辎重，顺带还擒获了他的一家老小。
韩遂的残部后来逃到北地郡，得到了忠于曹魏的地方官的容留。从此以后，韩遂正式加入了曹操的阵营，成了曹操的部将。
诸葛亮还想再争取一下，于是派使者前往北地郡面见韩遂，以其家小为要挟，要求韩遂投降。而韩遂不仅没投降，反而杀了使者。
诸葛亮和帐下诸将全都勃然大怒，于是将韩遂的全家男丁斩首，女人也充作官奴。
韩遂为什么会如此决绝呢？其实也并不是特别奇怪，因为这对他来说，投谁本来就是一个两难的选择。他的长子，现在还在曹操那里当人质，他如果投降了刘协，那么长子就会被曹操杀掉。
而且，他还有一个成年的儿子随他逃到了北地郡。换言之，赵云擒住的只是他的部分家人，且大部分都是女人。
站在韩遂的角度来看，他之前对刘协降而复叛，又抵抗诸葛亮抵抗了一年，和南汉一方的梁子早就解不开了。反之，他这些年基本都是臣服于曹操的，过去也配合了曹操的许多行动，因此到了曹操那里，他还算得上是一个有功之臣。
两相对比，何去何从就很明显了——曹操能给他的肯定更多。降了刘协，撑死了会给他一个无实权的乡侯。
韩遂逃遁后，凉州便成了无主之地，诸葛亮派兵轻松接管了金城郡的大小城池，再没遇到成建制的抵抗。
大批留守的兵马早已断粮，差不多都投降了。攻打金城郡，诸葛亮不但没损失什么兵力，反而收编了不少，其中还包括比例很高的骑兵，战斗力也比较强悍。
另外，他们之前扣留的大将阎行，因为主子已经东逃，其家小又在金城城中，于是不再闹脾气，乖乖投降了诸葛亮。
诸葛亮对这位西凉名将倒是挺尊重的，发还了田宅，还让他参与凉州军政事务。
随后，诸葛亮派赵云为大将，牵招为副将，统帅三万骑兵前去收复武威、张掖、酒泉、敦煌四郡，阎行也跟在军中，充当招降地方驻军的牌面。