這事還得從黃巾起義說起，一個叫做北宮伯玉的羌人在西涼攪動一池春水，於是群雄並起的時代也隨之到來了。
184年，張角發動了黃巾起義，一時間烽煙四起，許多底層人民奮勇而起，反抗東漢政權的壓迫統治。
消息傳到涼州後，以羌人、匈奴等民族為主體的胡人也揭竿而起，他們推舉北宮伯玉擔任首領，很快就取得了巨大勝利，並將涼州督軍從事邊章與涼州從事韓遂給抓了。
之所以要抓邊章和韓遂，是因為這兩人是漢人，在當地影響力巨大，有他們助力，起義成功的可能性將大大增加。
在北宮伯玉的操縱下，邊章被推舉為叛軍首領，韓遂也擔任了將軍，在此二人的號召之下，叛軍實力得到極大壯大，達到了十幾萬人。
很快，大半個涼州就落入叛軍之手了，邊章和韓遂也嘗到了甜頭，更是意識到東漢朝廷已經腐朽不堪了，再加上他們也已經無法回頭了，便一心一意投入到造反事業當中去了。
185年，叛軍以剿滅宦官為由，出兵攻打京城長安附近的三輔之地，漢靈帝派遣左車騎將軍皇甫嵩及中郎將董卓領兵討伐，但以失敗而告終，漢靈帝又派遣車騎將軍張溫掌管三輔軍務，董卓則升任破虜將軍，周慎為蕩寇將軍。
由於朝廷增兵到十餘萬，實力與叛軍相當，所以雙方進入相持階段，雖然偶有對陣，但各有勝負。
十一月的某天夜晚，流星劃過天空，叛軍認為這是不祥之兆，便撤軍返回涼州，董卓得知這一情況後大喜過望，便發兵追擊，斬殺數千級而歸。
叛軍返回涼州金城郡榆中縣後，張溫派遣周慎率軍三萬進攻，董卓立功心切，也表示要出兵，但被張溫拒絕，而是讓他率軍三萬攻打零羌，防止其與叛軍勾結。
周慎出征後，韓遂、邊章派人截斷了其糧道，他們因此不得不撤軍而還；而董卓也不是太順利，一進入涼州就被羌人、匈奴人包圍，再加上糧食不充足，因此形勢危急。
所謂三十六計走為上，董卓為了自救，便假裝攔水修堤，對外宣稱是捕魚，實在在堤壩修好之後，他率軍從堤壩下面過河逃走了，等叛軍趕到的時候，他已經全身而退。
後來，張溫又派了幾路人馬進攻涼州，但都以失敗而告終，只有董卓保存了實力，因此戰後他自吹自擂，朝廷便封他為斄鄉侯，封邑一千戶。
至此，朝廷與叛軍的第一次大戰就此結束，雙方再次進入戰略相持階段。
187年，韓遂為了獨掌大權，設計殺害了邊章、北宮伯玉、李文侯等人，一躍成為叛軍首領，手下將士十餘萬，實力十分強勁。
然而，此時涼州的漢陽等郡依然掌握在朝廷手中，由涼州刺史耿鄙統轄，他在188年率領數萬兵馬進攻叛軍，但就在進軍途中，隴西太守李相如、酒泉太守黃發動反叛，並聯合涼州軍司馬馬騰一起殺掉了耿鄙，然後率軍投奔了韓遂。
而後，漢陽人王國自稱合眾將軍，也率軍數萬與韓遂匯合，韓遂為了拉攏他，便聯合馬騰等人推舉他為首領，率軍進攻三輔之地。
188年十一月，王國率軍包圍陳倉，漢靈帝便派遣左將軍皇甫嵩、前將軍董卓各率二萬人前往抵抗。
由於陳倉城池堅固，叛軍圍城八十多天都沒有攻克，皇甫嵩趁機率軍出擊，將叛軍給擊退了，還斬首了一萬餘級。
叛軍返回涼州後，韓遂感到非常生氣，認為王國能力實在太差，便聯合馬騰等人將其殺死，然後擁立涼州名士閻忠為首領。
而閻忠也知道自己就是個傀儡，真正掌握實權的是韓遂和馬騰，自己還成為了朝廷通緝的對象，因此感到十分鬱悶，很快就憂憤而死。
閻忠死後，叛軍群龍無首，韓遂、馬騰等人為了爭權奪勢而相互廝殺，叛軍的實力逐漸衰弱，但因為此二人實際掌控了涼州，所以他們就是當時涼州的老大。
就在韓遂、馬騰在涼州擁兵自重的時候，董卓的日子開始不好過了，那時候漢靈帝生了重病，他認為只有皇甫嵩可以解決涼州問題，便下詔讓董卓將部眾交給皇甫嵩，然後到並州擔任州牧。
董卓不甘心交出兵權，便對皇甫嵩說，自己領軍十數年，將士們跟他很親近，讓他離開軍隊，怕是要出亂子。
皇甫嵩聽完很不高興，便上書給漢靈帝，說董卓不肯交出兵權，漢靈帝下詔嚴厲訓斥了董卓，董卓只得帶著本部人馬五千人（即他組建的涼州鐵騎）往並州而去。
不過，董卓也不是傻子，他知道漢靈帝就快不行了，朝廷局勢即將大變，於是走到河東郡就不走了，而是停下來等待時機。
189年四月，漢靈帝去世了，大將軍何進掌權，他聯合司隸校尉袁紹上書何太後，要何太後誅殺宦官，但何太後不肯，何進便寫信給董卓，讓他帶兵進京誅殺宦官。
董卓知道自己的機會來了，便火速往京城趕去，但他還沒到京城，何進就被宦官設計殺害了。
董卓的弟弟奉車都尉董旻當時就在京城，他見大將軍何進已死，為了給董卓進京掌權掃清障礙，便聯合何進部將吳匡等人誅殺了車騎將軍何苗。
眼看京城大亂，中常侍段珪等劫持皇帝劉辨逃走，董卓得知消息後火速趕往京城，並在北邙山追上了劉辨，他便裹挾著劉辨返回京城，收攏了何進與何苗的部曲，又引誘呂布殺掉丁原，吞並了丁原從並州帶來的軍隊。
董卓雖然只率軍數千入京，但他在很短的時間內就吞並了多支部隊，實力因此大增，再加上他挾天子以令諸侯，權勢熏天，這讓韓遂、馬騰也感到十分羨慕。
為了擴大勢力，董卓便寫信給老鄉韓遂、馬騰，要他們率軍抵禦山東諸將（即袁紹和孫堅等人組成的反董大軍），而韓遂、馬騰也有意聯合董卓東山再起，便答應下來。
然而，韓遂、馬騰見董卓幾次敗給山東諸將，心裏便有些打鼓了，於是按兵不動，守在涼州靜待時局變化。
192年，董卓被王允和呂布設計殺死，而後他的部將李傕、郭汜等人反攻長安，殺死王允並逼走呂布，取得了長安的控制權，並收攏了董卓的一些部眾，實力也不容小覷。
然而，長安的外部的敵人也十分強大，李傕、郭汜為了尋求盟友，便以朝廷的名義任命韓遂為鎮西將軍，繼續駐紮涼州，任命馬騰為征西將軍，駐軍於郿（長安城外一百餘裏的董卓原封地）。
至此，涼州叛軍搖身一變，成為了朝廷軍，但也因此分裂成了兩股勢力，分別由韓遂和馬騰統轄。
然而，馬騰很快就與李傕爆發了矛盾，而且刀兵相向，韓遂聽說後便率軍趕來勸和，但他最終被馬騰說服，二人聯合起來進攻李傕，不幸被李傕擊敗，還損失了一萬餘人，最後只得逃回涼州。
原本，馬騰與韓遂是有很深矛盾的，但二人在經歷了戰敗之後，逐漸意識到只有抱團取暖才能生存，於是自此握手言和，還結為異姓兄弟，感情一度十分和睦。
但時間長了，韓遂、馬騰的部曲之間矛盾不斷，進而引發二人相互攻伐，這種狀態一直持續了好幾年，直到曹操裹挾漢獻帝之後，派人去勸和，二人這才罷兵言和，並在名義上臣服曹操，曹操又分別委任他們為高官。
並且，在曹操的操作下，馬騰放棄了部隊的統治權，帶著多數家人來到鄴城，只留下兒子馬超繼續統帥部隊。
然而，馬超可不是個甘心臣服曹操之人，211年曹操討伐漢中張魯，他借機擁立韓遂為涼州之主，並深情地對韓遂說，“如今，我馬超棄父，以韓將軍為父。韓將軍亦當棄子，以我馬超為子”。