卻說劉裕既商定密謀，遂與何無忌托詞出獵，號召義徒。共得百餘名，最著名的約二十餘人，除何無忌、劉毅外，姓名如左：
劉道憐即劉裕弟。魏詠之魏欣之詠之弟。魏順之欣之弟。檀憑之檀祗隆憑之弟。檀道濟憑之叔。檀范之道濟從兄。檀韶憑之從子。劉藩劉毅從弟。孟懷玉孟昶族弟。向彌避義之周安穆劉蔚劉珪之蔚從弟。臧熹臧寶符熹從弟。臧穆生熹從子。童茂宗周道民田演范清
這二十餘人各具智勇，充作前隊。何無忌冒充敕使，一騎當先，揚鞭入丹徒城，黨徒隨後跟入。桓修毫不覺察，聞有敕使到來，便出署相迎，無忌見了桓修，未曾問答，即拔出佩刀，把修殺死。隨與徒眾大呼討逆，吏士驚散，莫敢反抗。劉裕也馳入府署，揭榜安民，片刻即定。當將桓修棺殮，埋葬城外。召東莞人劉穆之為府主簿，更派劉毅至廣陵，囑令孟昶劉道規，即日響應。
昶與道規，偽勸桓弘出獵，以詰旦為期。翌日昧爽，昶等率壯士數十人，佇待府署門前，一俟開門，便即馳入。弘方在啜粥，被道規持刃直前，劈破弘腦，死於非命。當即收眾渡江，來會劉裕。
徐州司馬刁弘，聞丹徒有變，方率文武佐吏，來至丹徒城下，探問虛實，裕登城偽語道：「郭江州已奉戴乘輿，反正尋陽，我等奉有密詔，誅除逆黨，今日賊玄首級，已當曉示大航。諸君皆大晉臣，無故來此，意欲何為？」刁弘等信為真言，便即退去。
可巧劉道規、孟昶等自廣陵馳至，眾約千人，裕即令劉毅追殺刁弘。待毅歸報，又令毅作書與兄，即遣周安穆持書入京，促令起事。原來毅兄劉邁留官建康，桓玄令邁為竟陵太守，整裝將發。既得毅書，躊躇莫決。安穆見邁懷疑，恐謀洩罹禍，匆匆告歸，連王元德、辛扈興、童厚之等處也未及報聞。邁計無所出，意欲夤夜下船，赴任避禍。忽由桓玄與書，內言北府人情，未知何如？近見劉裕，亦未知彼作何狀，須一一報明。此書寓意，乃俟邁抵任後，令他稟報。偏邁誤會書義，還道玄已察裕謀，不得不預先出首。這叫作賊膽心虛。遂不便登舟，坐以待旦，一俟晨光發白，即入朝報玄。
玄聞裕已發難，不禁大懼，面封邁為重安侯。邁拜謝退朝，偏有人向玄譖邁，謂邁縱歸周安穆，未免同謀。玄乃收邁下獄，並捕得王元德、辛扈興、童厚之三人，與邁同日加刑。一面召弟桓謙，及丹陽尹卞范之等，會議拒裕，謙請從速發兵，玄欲屯兵覆舟山，堅壁以待。經謙等一再固請，始命頓邱太守吳甫之，右衛將軍皇甫敷，北遏裕軍。
裕聞桓玄已經發兵，也銳意進取，自稱總督徐州事，命孟昶為長史，守住京口。集得二州義旅，共千七百人，督令南下。且囑何無忌草檄，聲討玄罪。
無忌夜作檄文，為母劉氏所窺，且泣且語道：「我不及東海呂母，王莽時人。汝能如此，我無遺恨了！」兄弟之仇，不可不報。至無忌檄已草就，翌晨呈入。裕即令頒發遠近，大略說是：
觀檄中所載，如毛璩以下，多半是虛張聲勢，未得實情。郭昶之何曾反正，王元德並且被誅。就是諸葛長民，亦未能據住歷陽，不過訛以傳訛，也足使中土向風，賊臣喪膽。桓玄自劉裕起兵，連日驚惶，或謂裕等烏合，勢必無成，何足深懼？玄搖首道：「劉裕為當世英雄，劉毅家無擔石，樗蒱且一擲百萬，何無忌酷似若舅，共舉大事，怎得說他無成呢？」恐亦慚對令正。果然警報頻來，吳甫之敗死江乘，皇甫敷敗死羅洛橋，那劉裕軍中，只喪了一個檀憑之，進戰益厲。玄急遣桓謙出屯東陵，卞范之出屯覆舟山西，兩軍共計二萬人。裕至覆舟山東，令各軍飽餐一頓，悉棄餘糧，示以必死。劉毅持槊先驅，裕亦握刀繼進，將士踴躍隨上，馳突敵陣，一當十，十當百，呼聲動天地。湊巧風來助順，因風縱火。煙焰蔽天，燒得桓謙、卞范之兩軍，統變成焦頭爛額，與鬼為鄰。桓謙、卞范之，後先駭奔，裕復率眾力追，數道並進。玄已料裕軍難敵，先遣殷仲文具舟石頭，為逃避計。至是接桓謙敗耗，忙令子升策馬出都，至石頭城外下舟，浮江南走。裕得乘勝長驅，直入建康。
京中已無主子，由裕出示安民，且恐都人惶惑，徙鎮石頭城，立留台，總百官，毀去桓氏廟主，另造晉祖神牌，納諸太廟。更遣劉毅等追玄，並派尚書王嘏，率百官往迎乘輿。一面收誅桓氏宗族，使臧熹入宮，檢收圖籍器物，封閉府庫。司徒王謐本系桓玄爪牙，玄篡位時，曾親解安帝璽綬，奉璽授玄。當時大眾目為罪魁，勸裕誅謐，偏裕與謐有舊，少年孤貧時，嘗由謐代裕償債，至此不忍加誅，仍令在位。未免因私廢公。謐又向裕貢諛，願推裕領揚州軍事。裕一再固辭，令謐為侍中，領揚州刺史，錄尚書事，謐更推裕都督八州，揚、徐、兗、豫、青、冀、幽、並。兼徐州刺史，裕乃受任不辭。令劉毅為青州刺史，何無忌為琅琊內史，孟昶為丹陽令，劉道規為義昌太守，所有軍國處分，均委任劉穆之。倉猝立辦，無不允愜。
惟諸葛長民愆期未發，謀洩被執，刁逵尚未得建康音信，把長民羈入檻車，派使解京。途次聞桓玄敗走，建康已為劉裕所據，那使人樂得用情，即將長民放出，還趨歷陽。歷陽軍民，乘機起事，圍攻刁逵。逵潰圍出走，湊巧遇著長民，兜頭截住，再經城中兵士追來，任你刁逵如何逞刁，也只好束手受縛，送入石頭，飲刀畢命！
桓玄逃至尋陽，刺史郭昶之，供玄乘輿法物，可見劉氏前次檄文，純係虛聲。玄仍自稱楚帝，威福如故。嗣聞劉毅等率軍追來，將到城下，玄又驚惶失措，急遣部將庾雅祖、何澹之堵住湓口，自挾一主即晉安帝。二後，一系穆帝后何氏，一系安帝后王氏。西走江陵。劉毅與何無忌、劉道規諸將，至桑落洲，大破何澹之水軍，奪湓口，拔尋陽，遣使報捷。劉裕因安帝西去，乃奉武陵王司馬遵為大將軍，入居東宮，承製行事。再飭劉毅等西追桓玄。
玄至江陵，收集荊州兵，有眾二萬，復挾安帝東下。行抵崢嶸洲，正值劉毅各軍，揚帆前來。劉道規望玄船，麾眾先進，劉毅、何無忌，鼓棹隨行。此時正是仲夏天氣，西南風吹得甚勁，道規乘風縱火，毅等亦助薪揚威，燒得長江上下，煙霧迷濛。玄所督領諸戰艦，多半被焚，部卒大亂。玄慌忙改乘小舟，仍將安帝挾去，遁還江陵。
部將殷仲文叛玄降劉，奉晉二後還京。玄再返江陵，人情離叛，沒奈何乘夜出奔，欲往漢中。南郡太守王騰之，荊州別駕王康產，奉安帝入南郡府，尋遷江陵。
益州刺史毛璩有侄修之，為玄屯騎校尉，誘玄入蜀。玄依言西行，至枚回洲，適上流來了喪船數艘，船首立著一員衛弁，與修之打了一個照面，便厲聲呼道：「來船中有無逆賊？」修之不答，桓玄卻顫聲說道：「我是當今新天子，何處盜賊，敢來妄言！」此時還想稱帝，太不自量。道言未絕，那對船上又跳出二將，拈弓搭矢，飛射過來，玄嬖人萬蓋、丁仙期，挺身蔽玄，俱被射倒。玄正在驚惶，突有數人持刀躍入，為首的正是對船衛弁。便駭問道：「汝……汝等何人？敢犯天子！」衛弁即應聲道：「我等來殺天子的賊臣！」說至此，即用刀劈玄，光芒一閃，玄首分離。看官道衛弁為誰？原來是益州督護馮遷。
益州毛璩有弟毛璠，為寧州刺史，在任病歿。璩使兄孫祐之，及參軍費恬，扶櫬歸葬，並派馮遷護喪。恰巧中流遇著玄船，由修之傳遞眼色，便一齊動手，殺死賊玄。看官不必細問，就可知對船發矢的二將，便是費恬、毛祐之了。馮遷既梟玄首，執住玄子桓升，殺死玄族桓石康、桓浚，令毛修之繼獻玄首，及檻解桓升，馳詣江陵。安帝封毛修之為驍騎將軍，誅升東市，下詔大赦，惟桓氏不原。
玄從子桓振，逃匿華容浦中，招聚黨徒，得數千人，探得劉毅等退屯尋陽，即襲擊江陵城。桓謙亦匿居沮川，糾眾應振。江陵城內，只有王騰之、王康產二人守著，士卒無多，逕被兩桓掩入。騰之、康產戰死。安帝尚寓居江陵行宮，振持刀進見，意欲行弒。還是桓謙馳入勸阻，方才罷手，下拜而出。為玄舉哀發喪，謙率百官朝謁安帝，奉還璽綬，所有侍御左右，一律撤換，改用兩桓黨羽，乘勢攻取襄陽等城。
劉毅等還居尋陽，總道是元兇就戮，逆焰消除，可以高枕無憂，哪知死灰復燃，復有兩桓餘孽，襲取江陵。急忙令何無忌、劉道規二將，進討兩桓。師至馬頭，已由桓謙派兵扼住。兩下裡殺了一場，謙眾敗退。無忌、道規，直趨江陵。桓振令黨徒馮該，設伏楊林，自率眾逆戰靈溪，無忌恃勝輕進，被賊軍兩路殺出，衝斷陣勢，大敗奔還。幸虧劉敬宣聚糧繕船，接濟無忌、道規，復得成軍，蹶而復振。
敬宣即劉牢之子，前時逃往山陽，擬募兵討玄，未克如願。再往南燕乞師，南燕主慕容德，不肯發兵。敬宣潛結青州大族，及鮮卑豪酋，謀襲燕都，事洩還南。時玄已敗死，走歸劉裕，裕令為晉陵太守，尋又遷授江州刺史。他因劉毅等討玄餘黨，所以籌備舟械，隨時接應。補筆不漏。
無忌、道規得此一助，再進兵夏口。毅亦督軍隨進，攻入魯城。道規亦拔偃月壘，復會師進克巴陵。號令嚴整，沿途無犯，再鼓眾至馬頭。桓振挾安帝出屯江津，遣使請和，求割江、荊二州，奉還天子。以皇帝為交換品，卻是奇聞。毅等不許。會南陽太守魯宗之，起兵襲襄陽，振還軍與戰，留桓謙、馮該守江陵。謙遣該守豫章口，為毅等擊敗，謙棄城遁走。毅等馳入江陵，擒住逆黨卞范之等，一併梟斬。
安帝時在江陵，未被桓振挾去。毅得入行宮謁帝，由帝面加慰勞，一切處置，悉歸毅主持。毅正擬追剿兩桓，適振回救江陵，在途聞城已失守，眾皆駭散，振亦只好逃匿溳州。既而召集散眾，復襲江陵，為將軍劉懷肅所聞，伏兵邀擊，一鼓誅振。振為桓氏後起悍將，至此斃命，桓氏遺孽垂盡，惟桓謙等奔入後秦。
安帝改元義熙。再下赦書，除桓謙等不赦外，獨赦桓沖孫胤，徙居新安，令存桓沖宗祀，保全功臣一脈。沖系桓玄叔父，有功晉室，封豐城公，詳見《兩晉演義》。劉裕聞報，使劉毅、劉道規留屯夏口，命何無忌奉帝東歸。安帝乃自江陵啟鑾，還至建康。百官詣闕待罪，有詔令一併復職。授琅琊王司馬德文為大司馬，武陵王司馬遵為太保，且封賞功臣，首劉裕，次及劉毅、何無忌、劉道規。詔敕有云：
這詔下後，裕上表固辭。再加錄尚書事，裕又不受，且乞請歸藩。安帝不允，遣百僚敦勸，裕仍然固讓，入朝陳情，願就外鎮，乃改授裕都督荊、司、梁、益、寧、雍、涼七州，並前十六州諸軍事，仍守本官，裕始受命，還鎮丹徒。封劉毅為左將軍，何無忌為右將軍，分督豫州、揚州軍事，劉道規為輔國將軍，督淮北諸軍事。余如并州刺史魏詠之以下，皆加官進爵有差。
先是劉毅嘗為劉敬宣參軍，時人推毅為雄傑，敬宣道：「有非常的材具，必有非常的度量，此君外寬內忌，誇己輕人，設使一旦得志，亦恐以下陵上，自取危禍呢。」為後文劉裕殺毅張本。裕聞敬宣言，嘗引以為憾。及得授方鎮，遂使人白劉裕道：「敬宣未與義舉，授為郡守，已覺過優，擢置江州，更足令人駭惋，恐猛將勞臣，不免因此懈體呢。」裕遲遲不發。敬宣得知消息，心不自安，乃表請解職，因召還為宣城內史。劉毅再與何無忌，分道出討桓玄餘黨，所有桓亮、符玄等小丑，一概誅滅，荊、湘、江、豫皆平。晉廷命毅都督淮南五郡，兼豫州刺史。何無忌都督江東五郡，兼會稽內史。毅自是益驕，免不得目空一切，有我無人了。小子有詩歎道：