更始帝劉玄統領綠林軍後，先是命令劉秀帶領大部分人馬進攻宛城，然後又命王鳳和王常率兵北上，攻佔昆陽（今河南葉縣）、定陵（今河南舞陽東北）和郾縣（今河南郾城南）等地，掃清宛城周圍的障礙，確保劉秀作戰順利。
隨著綠林軍一次又一次地進攻，越來越多的地方被佔領下來。王莽看在眼裡急在心裡，他明白綠林軍已經到了非除掉不可的時候，要是順其發展的話，後果不堪設想。王莽一開始把鎮壓的重心全部放在赤眉軍那兒，現在他決定先消滅綠林軍。公元23年三月，大司空王邑、大司徒王尋受王莽之令，率領四十多萬士兵朝昆陽進發，力圖把綠林軍主力消滅乾淨。駐守昆陽的綠林軍不過八九千人，而王邑和王尋帶著十萬人馬，又集合了嚴尤、陳茂兩人的軍隊，勢力猛增。
綠林軍十分惶恐，幾千人怎麼能對抗得了十萬大軍呢？昆陽城中人心惶惶，甚至有人建議棄城逃走。劉秀堅決不同意逃跑，他詳細說明了目前的情勢：宛城還沒攻破，昆陽決不能再落入王莽軍手中。然而一些人還是堅持棄城，正在大家爭論的時候，王莽的軍隊離昆陽不遠了。眾人這才發覺，要是不快點確定作戰方略的話，大家都會被王莽軍殺死，於是沒人再反對劉秀的說法。劉秀命令王鳳和王常保衛昆陽城安危，讓李軼和宗佻跟隨自己去郾縣和定陵等地調集更多的人馬來支援昆陽。
王莽軍的將領嚴尤看了看昆陽城周圍的環境，心裡默默思考著如何在最短時間內，用最少的人把昆陽攻佔下來。昆陽城雖然不大，不過佔盡了地理優勢，嚴尤認為應該先攻佔宛城，斷了昆陽的後路，消滅了綠林軍的大部分兵馬，到時候昆陽的綠林軍眼看情勢惡劣，自然也沒了鬥志，他們就可以輕鬆拿下昆陽城，可是將軍王邑對嚴尤的建議嗤之以鼻。王邑不懂兵法，偏偏又裝作很瞭解的樣子，不顧他人勸阻，執意要先攻打昆陽，而且仗著自己兵馬充足，下令士兵們大開殺戒，一定要昆陽城血流成河。嚴尤幾次反對都被王邑駁了回去，王莽軍在王邑的帶領下，把昆陽城圍得水洩不通，綠林軍只看到城外人頭攢動。兩方人馬在昆陽對峙了幾天幾夜，期間交戰好幾次，王莽軍明顯佔了上風，綠林軍首領王鳳實在支撐不下去，向王邑求饒，希望莽軍能停止進攻，並且自願投降。可是王邑好大喜功，非要等到全部綠林軍戰死。聽到王邑這麼說，綠林軍的將領和士兵非常生氣，索性鼓足了士氣，決定和王邑對戰到底。既然求饒不能讓對方放自己一條生路，乾脆拚死抵抗，說不定還有勝算的可能。於是王鳳率領綠林軍繼續和王莽軍廝殺，城中的百姓也被綠林軍的勇猛所感動，紛紛和士兵們一起抗擊敵人。
王莽軍的猛烈進攻都被綠林軍頑強地抵制住了，這個時候，嚴尤又和王邑建議，故意把包圍圈打開一個口子，讓綠林軍以為王莽軍疏忽大意，給了他們逃跑的機會。嚴尤說，等綠林軍逃出去後，王莽軍可以散佈昆陽城被佔領的消息，如此一來，堅守宛城的綠林軍肯定會心生怯意，到時候他們就能趁機拿下昆陽和宛城，一舉兩得。這個建議再次被王邑否定了，他仍然堅持用武力攻下昆陽城，以顯示自己的軍隊有多麼威武。王邑不但在制定作戰策略上獨斷專行，還經常離開軍營到周圍郡縣去勒索地方官員和富商們的錢財，這讓王莽軍在百姓心中的形象越來越惡劣。
劉秀和李軼、宗佻在定陵一帶召集了大批軍隊準備支援昆陽，然而不少將領在半路上卻宣佈不走了，他們打算各自帶兵駐紮在物質資源豐富的地方，在他們看來，不愁吃喝遠比眼前戰爭的勝利要重要得多。劉秀勸告他們說，打了勝仗會得到更多的財物，如果現在不趕去支援昆陽，一旦昆陽失守，王莽軍士氣大振，必定會給綠林軍造成不可彌補的傷害，到時候連命都沒了，財寶拿在手上又有什麼用呢？眾位將領一聽，頓時醒悟過來，連忙帶著自己的士兵，跟著劉秀和李軼朝昆陽奔去。
援兵終於在六月趕到了昆陽，援軍一字排開，氣勢洶洶地逼近昆陽城外的王莽軍。王邑和王尋壓根不把劉秀的援軍放在眼裡，和他們的十萬大軍比起來，劉秀的援軍簡直是小巫見大巫，因此他們只命幾千人上前迎戰。沒想到援軍在劉秀的帶領下，越戰越勇，王邑的軍隊眨眼之間就被斬殺了一千多人。
正當昆陽的綠林軍歡呼雀躍的時候，被綠林軍包圍很長一段時間的宛城終於攻破了。王莽軍沒有支援宛城，守城將領岑彭看著飢餓的士兵，不得已放棄抵抗，向綠林軍投降。不過這個消息還沒有傳到昆陽，劉秀和王邑都不知情，但劉秀為了鼓勵士兵們奮勇作戰，故意放出風聲，說綠林軍已經把宛城從王莽軍手中奪了過來。王邑聽到後大吃一驚，王莽軍士兵也唉聲歎氣，只想著快點回家，都沒了作戰的勇氣。
初戰告捷後，為了盡快結束戰鬥，劉秀打算消滅王莽軍最重要的部分，也就是王邑和王尋所在位置——王莽軍的指揮中心。劉秀在軍中挑選了三千名驍勇善戰的士兵，從昆陽城的西邊偷偷地繞了過去。王邑和王尋看出了劉秀的企圖，可他們依舊不以為然，兩人帶領著一萬士兵迎戰劉秀，並下令其他人呆在軍營中，沒有自己的命令誰也不能前來幫忙。劉秀的士兵雖然少，但都能夠以一敵十，而王莽軍已經人心渙散，士兵們哪裡還有心思打仗？在綠林軍猛烈的攻勢之下，王莽軍節節敗退，軍營裡的人想出來幫忙，可是沒有王邑和王尋的命令，大家只好看在眼裡急在心裡。沒一會兒，王莽軍的指揮中心就被劉秀摧毀了，王尋也被殺死，在昆陽城內觀望局勢的綠林軍一見王邑大勢已去，連忙打開城門衝出去廝殺起來。王莽軍腹背受敵，首領也被殺死了一個，士兵們根本顧不上打仗，紛紛四下逃跑。此時的天氣雷雨相加，狂風怒吼，倉皇逃跑的王莽軍被綠林軍追得上氣不接下氣，很多人在推搡之中被踩死，到處都是屍體，還有一些人則被淹死在河裡，屍體高高地堆疊起來，甚至阻斷了河水的流動。
王邑和嚴尤等將領帶著殘餘的少數人馬逃回了洛陽，王莽聽到戰敗的消息，感到十分震驚。王莽軍的主力部隊已經在昆陽一戰中被綠林軍盡數消滅，其中劉秀的正確領導和冷靜睿智的思維無疑是綠林軍能夠勝利的關鍵因素。
昆陽戰役後，綠林軍內部出現了矛盾，更始帝劉玄為了防止劉縯和劉秀兩兄弟勢力壯大，影響自己的地位，便在別人的幫助下，找了個借口殺死了劉縯。劉秀假意順從劉玄，一言一行都十分小心謹慎，終於獲得了劉玄的信任，被封為武信侯，這也為他日後建立東漢打下了基礎。