在鎮壓太平天國行動中，三支由官員自己組織的軍隊一直是軍隊的主力，他們就是曾國藩的湘軍、左宗棠的楚軍和李鴻章的淮軍。但是在鎮壓了太平天國之後，李鴻章的淮軍和左宗棠的楚軍都還存在了一段時間。後來在部分淮軍的老底子上，還成立了北洋軍，北洋集團成為清末和民國初期一支巨大的力量。不過三支力量中最強的湘軍反而退出了歷史舞台，那麼曾經不可一世的10多萬湘軍究竟去哪裡呢？
一、在朝廷軍隊屢戰屢敗的情況下，地方軍隊開始拔得頭籌
1851年，魔教頭子洪秀全在廣西地區發動了起義。當時清廷把主要注意力放在了沿海地區，對於西南邊陲的廣西並沒有太在意。但是偏偏在清廷防禦力量薄弱的廣西發生了大起義，起初洪秀全本來想在廣東發動起義。但是廣東地區書香氣息很重，洪秀全那點三腳貓的學問根本忽悠不住人，這才不得不改為廣西地區。淳樸的人民被這個傢伙欺騙了，他所做的一切完全是為了自己，所以的拜上帝教完全就是一個幌子。西南地區發生起義之後，清廷本來沒有把他們當回事，大清國什麼場面沒見過。但是這幫人越打越勇，朝廷派去的軍隊根本無法徹底消滅這些太平軍。在永安突圍之後，太平軍一路流竄到了湖北地區。
經過一番鏖戰之後，湖北省會武昌陷落，隨後太平軍順江東進，一路攻破安慶、蕪湖，最終佔領了南京。南京的失守對清廷的打擊很大，南京是東南地區的經濟政治中心，這裡失守就意味著清廷對整個東南地區失去了控制。更要命的是此時的太平軍已經成了氣候，清廷軍隊一敗再敗，根本無力鎮壓。太平軍甚至還派出了部隊進行北伐，幸虧沒有成功。由於八旗已經成了花架子、綠營也已經基本喪失戰鬥力，所以在對付太平軍的過程中，清廷不得不依靠那些地方團練武裝。就如同嘉慶時期利用團練白蓮教大起義一樣，曾國藩就是這個時候回到了老家組織軍隊。不過剛剛回家的曾國藩十分清高，在極度糜爛的官場處處碰壁，甚至連部隊的糧食都成了問題。
二、三大地方軍隊最終消滅了縱橫南北的太平天國
在處處碰壁的情況下，曾國藩逐步領悟到了個人道德和骯髒現實的差距，他開始體會到「外圓內方」的內涵。在此之後，曾國藩逐步真正融入了官場。在圍堵太平軍的過程中，曾國藩的湘軍是最強的一支力量。這支力量嚴格的說屬於私人軍隊，服從曾國藩的命令，但不用指望朝廷指揮它。雖然戰爭中，湘軍也不止一次的失敗，曾國藩也屢次陷入絕境，但他總能絕處逢生。太平天國內部的死磕幫了曾國藩的大忙，天京城內王殺王的場景一再上演，洪秀全自斷羽翼。最終湘軍開始在對抗中取得優勢，與此同時，左宗棠的楚軍和李鴻章的淮軍也先後崛起，三大集團夾擊太平軍。不懂軍事的洪秀全一再盲目指揮陳玉成和李秀成，最終造成了步步被動的局面。
1863年開始，李鴻章進軍江蘇、左宗棠負責入浙江，曾國藩的湘軍則全力對付天京城裡的洪秀全。1864年，在經過反覆鏖戰之後天京城破，湘軍殺入了城內。此時洪秀全已死，他的兒子逃往城外。消息傳回北京，年輕的慈禧太后和小叔子奕在高興之餘也開始警惕曾國藩。曾國藩這個人非常的小心，攻克天京時的12萬湘軍被裁撤了一半。其餘的湘軍留下一部分留守江南，其餘基本上全部返回了湖南。隨後時光的流逝，返回湖南的湘軍逐步退出了歷史舞台(張之洞的南洋軍有一些湘軍老人參加)，但江南地區的湘軍卻一直保留了下來。湘軍集團一直把江南地區視為自己的私人領地，他們不允許別人染指這片地區，著名的刺馬案就是在這樣的背景下發生的。
三、在存在了40年之後，湘軍徹底成為了歷史
江南地區的湘軍一直存在至20世紀初期，長達40年的時間。在此期間，無論是誰出任兩江總督，都和湘軍集團有著說不清的關係。它們屬於相互利用的關係，不過湘軍的發展遠不如李鴻章的淮軍。在19世紀末期，淮軍成為了清朝的頂樑柱。只可惜甲午一戰，李鴻章的家底幾乎賠的乾乾淨淨。兩江總督劉坤一一直保著湘軍的剩餘力量，他的原則是絕不出頭。在庚子戰爭之後，清廷對南方各省的控制力明顯下降，湘軍還曾有過一定的發展。並且和張之洞的南洋勢力遙相呼應，搞得清廷一時之間無可奈何。但是在20世紀初期，情況發生了變化。袁世凱為了使北洋一家獨大，推出了軍制改革。這正中攝政王載灃下懷，他立刻開始推行此政策。結果張之洞的力量大損，湘軍餘部則成為了被裁撤的對象完全成為了歷史。