孙坚回想西北羌胡之乱，即使勇烈如他，亦多次面临生死危机，不由怒火填塞胸。
先是皇甫嵩率领董卓、陶谦、盖勋、傅燮等前往讨伐，孙坚亦为司马从军。初时大破之，然而冰冻三尺非一日之寒，后过于深入，为敌所败，遂向东后撤百里，守住陇山和汉阳郡险要，屯兵不前，等待战机。
几年前，皇甫嵩曾上奏开党锢，导致不少宦官党羽丢官去职，张让、赵忠等宦官深恨之，遂给皇帝上谗言。同时，由于黄巾之乱顺利剿灭，朝中不少人以为西凉羌胡之乱是封侯之机，纷纷眼红想取而代之，司空张温是其中最积极的一个。于是众人共同对皇甫嵩上眼药，导致皇帝下旨免皇甫嵩职，减封户。
张温担任过司空、大司农的要职，多有功劳，简历十分突出。然而皇帝并不属意张温，认为他缺乏统帅大部队的经验。皇帝想让左车骑将军朱俊来统帅西征部队。
张温于是重赂宦官。
张让等人向皇帝建议：“大军出征，必有监军，否则万一大将不听号令，十多万人一起矛头向内对准雒阳怎么办呢？张温一个文官总比常掌军队的将军好控制！”
皇帝深以为然，于是临阵换帅，诏司空张温以文官之身，率领以破虏将军董卓、荡寇将军周慎、扬武都尉陶谦等，督促汉阳太守盖勋、金城太守、北地太守、凉州刺史等一起讨伐叛乱。
张温虽也学了不少武略，毕竟叛军势大，他心中却没底，四处搜罗人才，包括征召公孙瓒将乌桓骑兵、征召刘备都是此时。这时左车骑将军朱俊、扬武都尉陶谦推荐了同一个人——吴郡人孙坚。
孙坚知道自己机会来了，声称自己是孙子之后，当场舞刀弄剑，虎虎生威；谈论用兵只道，颇有条理；展示部下，个个精锐。
张温大喜，以孙坚随同参军。对陶谦、孙坚等人十分看重，待遇颇厚。
之后，张温将北军、召集关中诸郡国兵，步骑共十馀万屯美阳，抵挡翻越陇山的边章、韩遂十余万人。张温初战不利，于是接受了董卓、鲍鸿、陶谦等人的意见，坚壁清野，率部坚守。
进入冬天后，叛军士卒四散外出劫掠，有不少被汉军抓为俘虏。经审讯，了解到了叛军缺衣少食、人心思归的情况。众人一起劝告，张温当机立断，派遣董卓与右扶风太守鲍鸿等，一起进攻边章、韩遂，大破之。叛军于是仓皇向西逃走。
张温于是派遣荡寇将军周慎、参军孙坚等将三万人，向西紧追不舍。
又令董卓与汉阳太守盖勋一起，讨伐汉阳的先零羌，陇西太守、扬武都尉陶谦讨伐枹罕、河关群盗，保证周慎大军后路、粮道。西北凉州多山，道路狭窄，土地贫瘠，难于就地筹粮，故而周慎三万在前讨伐边章、韩遂，后面需数万大军、数万民夫转运粮食。
此时从关中到金城（兰州）的道路极其难行，需过陇关、到汉阳郡（天水），沿着渭水河谷向西经过襄武（陇西）、首阳（渭源），过鸟鼠山，到达陇西郡治狄道（临洮），修整之后，再向北顺着洮水向北，往金城郡进发，翻过大山进入后世的兰州平原。
边章、韩遂的大本营并不在富庶的金城（兰州）平原盆地，而设在其东黄河与宛川河交界的榆中县（今来紫堡附近）。