此次撤軍後，曹軍的主力很長時間裡都無法再回涼州，因為主戰場慢慢轉向了合肥，荊州方向也承受著很大壓力。
曹操的確錯過了一次平定涼州的好機會，不過這種遺憾隨後得到了彌補。在短短的兩年時間內，涼州的局勢突然峰迴路轉，韓遂兵敗被殺，馬超無法立足而逃走，涼州納入曹操控制區。這可謂一場驚人的變化，造成這種變化的關鍵人物有兩個，這兩個人前面都提到過，一個是楊阜，一個是閻行。
曹操率大軍撤走後，雖然留下夏侯淵駐守長安、留下韋康和楊秋等人駐守涼州東部三郡，但對涼州腹地鞭長莫及，涼州各種勢力在馬超的鼓動下又蠢蠢欲動，馬超還聯絡了在興國的羌族首領阿貴、在白項的氐王千萬等部族勢力再次起兵。
不知何故，韓遂沒有參加這一次行動，馬超率人攻打效忠於朝廷的郡縣，有些地方雖然不願意跟著起事，但害怕馬超，也都應和他們，只有漢陽郡、安定郡沒有投降。
韋康在漢陽郡，在楊阜的竭力勸說下，韋康決定率全城軍民拚死抵抗，他們堅守涼州州治所在地冀縣，等待朝廷援軍的到來。馬超率一萬多人將冀縣圍了起來。馬超聯絡了漢中的張魯，張魯這次倒答應了，派將領楊昂率兵前來助戰。
冀縣保衛戰從建安十八年（213）正月一直打到8月，打了半年多，極為慘烈。守城的士兵只有1000多人，兵力對比至少十比一，但馬超卻沒能攻進去，原因是城裡有一位不知名的高人。
楊阜是冀縣本地人，楊氏宗族子弟全部上了城牆，楊阜有個堂弟叫楊岳，精通陣法，他在城牆上修築了一個偃月營，來跟馬超死戰。所謂偃月營，就是一種形似偃月的陣法，常常用於背山岡、面陂澤之地，輪逐山勢、弦隨面直，適合於地窄山狹之所，城上地方狹小，正可以採取這種方法。
這種陣法很有效，馬超、楊昂打了好幾個月，冀縣仍然未破。
奇怪的是，身在長安的夏侯淵一直沒有反應，說他不知道這裡發生的事有些不太可能。但如果他還不及時來救，冀縣終將不保。
韋康、楊阜商量後，決定派人冒死出城搬救兵，派出去的人名叫閻溫。冀縣城緊鄰渭水，閻溫趁夜從水中潛出城，天亮後城外的敵兵發現水跡，派人來追，追到顯親縣時把閻溫追上了。顯親縣位於冀縣以北，看來閻溫打算先逃到安定郡，在那裡找到楊秋，再設法向長安的夏侯淵求救。
閻溫被抓回來，馬超對他很客氣，解開他的綁繩說：「現在成敗已無懸念，足下為孤城請救兵而被抓，想行大義又如何做到？如果聽我的，你對城裡說外面沒有救兵，可以從此轉禍為福。不然，現在就殺了你。」閻溫答應，馬超命人把閻溫帶到城下，閻溫卻對城上大呼：「大軍不過3日就到，大家要堅持呀！」
城上的人聽到，群情激昂，高喊萬歲。馬超大怒，威脅閻溫說：「你不想活命了嗎？」閻溫不理，馬超還想誘降他，每次都遭到閻溫的譴責，閻溫最後被殺，臨死前說：「事君就要死無二心，讓我說不義之言，我豈能苟且偷生？」
閻溫說大軍3天就到，只是一句激勵大家的話。幾天過去了，援軍仍未到，城裡的士氣開始低落，就連韋康都有投降的打算。楊阜竭力勸說，甚至流下眼淚：「楊阜等率父兄子弟以義氣相激勵，至死也沒有貳心，當年田單守城也不過如此。現在放棄馬上就能得到的功勞，陷於不義的名聲，我寧願以死相守！」楊阜越說越激動，不禁大哭起來。
但韋康等人還是決定投降，他們打開城門迎接馬超入城。馬超佔領了涼州最重要的城市冀縣，在此自稱征西將軍，兼任并州牧，負責處理涼州一切軍政事務（督涼州軍事）。韋康雖然投降卻沒保住性命，馬超讓楊昂把韋康殺了，但奇怪的是，卻沒有追究楊阜，也許因為楊阜是本地人，在這裡勢力很大，馬超還想加以拉攏和利用。
但楊阜只想報仇，可惜的是一直沒有機會。這時他的妻子去世了，他以喪假為由離開了冀縣。楊阜有個表兄叫姜敘，手裡有一些人馬，屯兵在歷城，此地位於冀縣以南，前往武都郡的方向。楊阜到了歷城，見到了姜敘，拜會了姜敘的母親。楊阜把此前在冀縣的事跟表兄說了，言談之中很悲切，他們的談話被姜敘的母親聽到，她支持兒子參加楊阜的計劃。
於是，由楊阜牽頭，姜敘找來同鄉姜隱、趙昂、尹奉、姚瓊、孔信等人，還有武都郡人李俊、王靈等，約好共同討伐馬超。姜敘還派堂弟姜謨悄悄潛進冀縣，設法聯絡楊岳，楊岳被馬超看管，暫時沒有自由，姜謨又聯絡了梁寬、趙衢、龐恭等人。
這樣就有了十來個骨幹分子，他們在漢陽郡秘密結盟，同時派一部分人潛入冀縣，其中包括趙昂。趙昂當過縣令，後來給韋康當過軍事參謀（參轉軍事），他的妻子名叫王異，夫妻二人都參加了冀縣保衛戰，韋康想投降時趙昂也曾苦苦相勸。
馬超進城後想拉攏趙昂，但又不完全信任他。馬超的妻子楊氏聽說王異不一般，主動請來相見，王異知道丈夫已秘密參加了圖謀馬超的行動，為了贏得馬超的信任，她與楊氏也主動接近，最終獲得了楊氏的信任，通過馬超的妻子楊氏這層關係趙昂也得到了馬超的信任。
建安十七年（212）9月，楊阜、姜敘在距冀縣不遠的鹵城起兵，馬超親自率兵來討伐。
馬超一走，潛伏在冀縣的趙昂、趙衢、梁寬等人設法把楊岳救出，利用楊岳、趙昂在冀縣的影響力很快控制了冀縣城，楊岳下令關閉城門，殺了馬超的妻子楊氏及兒女。馬超在鹵城遭到楊阜、姜敘的抵抗，楊阜親臨一線，身上先後負了五處傷，本族子弟也有七個人戰死，在他們拚死抵抗下，馬超無法得手。
馬超回兵，但冀縣已失，只得轉而去偷襲歷城。
馬超的人馬開到歷城，城裡居然認為這是姜敘等人回兵，沒有任何防備，馬超輕鬆地將歷城佔領，抓住了姜敘的母親。馬超想用姜敘的母親做籌碼進行談判，姜母痛斥道：「你這個背棄父親的逆子，殺害守君的賊人，天地豈能容你，不早點去死，還有什麼面目活著？」姜母故意激怒馬超，求得一死。馬超大怒，把她殺了。
馬超無法在歷城立足，下令一把火燒了歷城，之後由武都郡逃往漢中，張魯還真夠意思，又給了馬超一些人馬，讓他重新奪回涼州。這時候夏侯淵終於決定率兵來救了，有人建議先向鄴縣匯報後再做行動，但夏侯淵認為長安到鄴縣來回4000里，等接到命令涼州那邊肯定堅持不住。
夏侯淵說得沒錯，但這個想法為何不出現在一年前？
這一次夏侯淵行動很快，他命張郃率5000人先出發，從陳倉入涼州，他自己督運糧草緊跟其後。張郃過了陳倉，在渭水上游遇到馬超，馬超率領由氐人和羌人組成的聯合兵團共數千人來戰張郃，但剛一接觸就敗了下來，只得再次逃往漢中，從此不再做反攻涼州的打算。
夏侯淵率大軍隨後開到，原來被迫效忠馬超的涼州西部各縣全部投降，對曹操來說這絕對是個意外收穫。為表彰收復涼州的有功人員，曹操以朝廷的名義連封十一個人為列侯，他們過去都是一些小人物，關鍵時刻挺身而出，從而建立了特殊功勳。
楊阜上表辭讓，曹操不許，親自給他寫信要他接受。楊阜後來擔任過益州刺史、金城郡太守、武都郡太守等職，曹丕繼位後擔任過將作大匠、少府卿，以直言懇諫著稱。