寧漢分裂，蔣介石無疑是「罪魁禍首」，因實由其一手主導，雙方劍拔弩張，大有短兵相接之勢，幸北洋軍閥未除，孫傳芳殘部與直魯軍主力猶在，意圖捲土重來，若寧漢鬩牆火並，勢必同歸於盡。於是雙方因情勢所逼，各自北伐，同仇敵愾，將內鬥暫時擱置。寧方北伐由何應欽、白崇禧、李宗仁分三路於一九二七年五月向隴海路挺進，連戰皆捷，六月二日克復徐州。約略同時，武漢北伐之師由唐生智、張發奎指揮，亦抵達隴海一線，進駐鄭州。馮玉祥則由潼關攻佔洛陽，逼迫奉軍北撤，促使山西閻錫山響應。此情此勢，原可齊心協力，直搗燕京，卒因寧漢分裂「黨」痛未消，各自為政，難以一致，最後各自班師。
武漢方面最初由於蔣之反共而聯共，然而由於共產黨組織的群眾運動如火如荼，國共間的利益衝突，亦在所難免，而適於此時，共產國際通過《關於中國問題的決議》，強調土地革命，欲動員中共實行土地革命，籌建紅色武力。共產國際代表羅易(Roy)並將決議副本送交汪精衛主席，汪感到有違一九二三年孫越宣言，共黨有取而代之之意，遂決定「分共」，解除鮑羅廷職務，且於六月六日率團北上，與馮玉祥會晤於鄭州，商議「分共」反蔣事宜後，再班師回漢，南下防共，以及部署東征，可見武漢國府於「分共」之後，仍要以武力制裁南京偽府，聲討叛徒蔣介石的。
然而蔣介石卻釜底抽薪，於六月十七日面晤馮玉祥於徐州，盛宴款待，結為金蘭，並大加利誘，於六月二十一日上午十時打電話給馮玉祥，「請派兵直搗武漢」，為馮所拒。(見《馮玉祥日記》第二冊，頁三三七)馮力主寧漢調停，並電武漢促使寧漢合流(見《致武漢汪譚等電》一九二七年六月二十一日)，以完成北伐大業。馮玉祥的態度至少也不助武漢東征，多少於蔣有利，而蔣仍欲回師西攻，解決武漢，只因李宗仁反對，堅持北伐而作罷。(參閱《李宗仁回憶錄》，頁三一五)不過寧方雖不西攻，漢方仍欲東征，雖因分共延誤，精銳確實已向下游移動，蔣介石遂召回李、白魯南之師。直魯軍乃乘機南撲，於七月二十四日攻陷徐州重鎮，南京震動，蔣介石乃親自出馬指揮，反攻徐州，並於出發前的紀念周上，聲稱不打下徐州不回南京。二十五日專程北上，親率五軍兩師，會同白崇禧部，與直魯軍戰於淮河、徐蚌之間，蔣以統帥親至前線，竟被敵人誘之深入以至中伏，使全線潰敗，敵軍乘勝追擊，大敗虧輸，狼狽不堪，於八月六日倉皇返寧。如此慘敗，羞憤可知，更何況誓言在耳，實難以下台，竟槍殺前敵總指揮王天培以洩憤遮羞。
蔣介石原想一舉奪回徐州，殲滅孫傳芳殘部，然後解決武漢。不意徐州未得，卻敗北如是，幸白崇禧壓陣有方、指揮若定，得免全軍覆沒，然敵炮已臨浦口，隔江可聞，顏面何存？而武漢東征之師已沿江而下，步步進逼，可謂左右受敵、內外交攻，實非引退不足以藏敗績之恥、非下野不足以消武漢之怒。武漢國府主席汪精衛早於七月二十三日便公開宣稱蔣介石「是黨國唯一的敵人、是國民革命軍唯一的敵人、是國民黨唯一的敵人」!(汪撰《中國國民黨告國民革命將士書》，載《民國日報》)武漢既已分共，倒蔣非因其反共，乃因其違紀，此亦蔣自知在兵敗之餘，非下台不可的原因。
蔣介石自徐州敗歸之時，即告李宗仁其下台已不可免，並以軍事相托，故引退絕非猝然。「辭職宣言」由陳佈雷起草，到八月十三日於蔣離寧後才見諸報端，其間兩個月，尚須做復出的準備工作以及修改文稿等等。這篇宣言無疑經陳佈雷精心包裝過，我們必須拆開來看，以見真相。蔣介石首先說：
中正自薰沐總理之教訓，即以二義自矢：一、認黨高於一切，在黨的利益之下，黨員個人絕無呈主觀、用感情、計利害之餘地。二、認捍衛黨基為黨員最大之天職。苟有逞智弄巧，陽奉陰違，篡奪吾黨基礎、剽易吾黨主義，使吾黨名存而實亡者，必竭全力以剷除之(《總統蔣公思想言論總集》第三十卷，頁五十二，另參閱《國聞週報》第四卷第三十三期)
他必須下台，即因自南昌以來，以個人之「主觀」、「感情」「利害」，抗命黨中央，甚至別立中央。武漢中央呼籲「恢復黨權」，即針對他而來。他原想以武力解決武漢黨中央，無奈兵敗，兩面受敵，只好引退以解困，而竟以「認黨高於一切」為說詞，顯然欲以「黑白講」來混淆視聽。至於他於宣言中護黨的振振之詞，從他日後一再「剷除」異己視之，直把個人的權力基礎與「吾黨基礎」畫等號，以責成黨員為他個人效忠，已藏其機。
他於八月十四日在上海發佈的「辭職宣言」中又說：「昔日以黨之命令不能不進者，今若認中正一退，可解糾紛，中正固無時無刻或忘歸隱也……今既咎戾集於一身，即應自劾而歸去，解除職權，以謝天下。」(同上，頁五十二、五十七)此話才透露一點天機，已不是假設性的要他退。
李宗仁於蔣下野後赴廬山與漢方會晤，始知唐生智乃欲揮師下蕪湖，實如吳稚暉所說：「照唐生智那種氣勢洶洶，我們兩面受敵不了，蔣先生暫時歇一歇也好。」(李雲漢《從容共到清黨》，頁七六二)因蔣之「歇一歇」，漢方才肯派孫科與譚延為代表與李宗仁返寧議和，益知蔣在當時情況下，是非下台不可的。李亦因而體會到蔣下野這著棋下得高明，因一下野即失武漢東征的借口(參閱《李宗仁回憶錄》，頁三二五至三二七)，至少可為緩兵之計。李宗仁在回憶錄中還提到，蔣故意散佈桂系「逼宮」的謠言，後來無論正史野史竟多以此謠言之成理而信之。李曾要蔣闢謠，蔣笑而不予理會，李懷疑蔣借此打擊桂系。(見《李宗仁回憶錄》，頁三二○至三二一)其實「逼宮」之流言，無非想把蔣說成是一「受害者」，而混淆了他下野的真正原因。
接著蔣介石又在宣言中說：
幸賴主義之照臨、同志之用命，曾不數月，湘、鄂、贛、閩全告復，此非中正所敢貪天之功，實中央執委會付託之專，用能集中號令，團結內部，不虞牽制，以克奏斯績也。何圖包孕本黨之共產黨徒，奉鮑羅廷之發縱指示，造作種種蜚語，提出軍閥、獨裁等口號，冀直接打倒中正，間接打倒國民革命。而本黨本軍之一部分同志，不悟其奸，竟被所惑，遂以為中正有企圖軍閥及個人獨裁之傾向。(《總統蔣公思想言論總集)第三十卷，頁五十三)
由此可見，他於下野前夕，已想改寫歷史。他說「非敢貪天之功」，實把「克奏斯績」之戰功，歸諸於己。其實湘、鄂之戰，戰功屬李宗仁、唐生智，底定江南的首功是白崇禧，蔣僅具總司令之名，並無直接關係，而他親自指揮的南昌之戰與徐州一役，卻是整個北伐戰爭中最最慘敗的兩次。他之下台亦即因徐州喪師的後遺症，竟以「克奏斯績」來掩飾。此時武漢已分共，他仍以反共來轉移視聽。他痛罵鮑羅廷，但若非鮑助孫中山改組、若無俄援，廣州革命根據地何從建立？北伐何從開始？若非中共大搞群眾運動，何能四處響應，不數月而達京滬？他為了掩蓋「兔死狗烹」之事實，竟反咬共黨一口，予其清黨以合理化，並以「打倒中正」與「打倒國民革命」混為一談，且故意顛倒「打倒中正」之因果關係。至於其「個人獨裁之傾向」，在當時即未彰著，亦為其後來行事所證實，還不止是「傾向」而已，日益見諸具體行動矣。
他最後要求「武漢同志剋期聯袂遷移來寧，共同集合於南京，而謀黨國大政之進行」(同上，頁五十六)，則不得不承認武漢中央為正統，由漢遷寧，其自立之南京政府自須撤銷後併入。他於發表此宣言之後，又於八月十九日發電辭總司令職權。但他並非真正歸隱鄉里，實繼續在幕後策動，並於離寧前便已安排親信姚琮的警衛師與孫星環的憲兵團，駐守南京城，以及密令何應欽掌握其嫡系部隊，其伺機再起的意圖已十分明顯。既欲再起，時局不能搞得太糜爛，否則覆巢之下無完卵。李宗仁終於八月底九月初贏得棲霞龍潭之役，擊潰孫傳芳意圖南渡之師。但龍潭之戰是險勝。若失敗，南京固不守，整個江南亦難保，就可到全局潰敗的地步。李宗仁指出，緊要關頭偶然發現何應欽想收兵保存實力，幸及時制止。(見《李宗仁回憶錄》，頁三三五至三三六)何若無蔣命，何能出此？但同時蔣亦雅不欲時局太穩定，讓汪精衛遷都成功，統一黨權，否則將扼殺再出之身價。總之，蔣介石的如意算盤是，借下野以金蟬脫殼，然後見機效「哪吒鬧海」，於政潮迭起中脫穎而出，造成「斯人不出奈天下何」的局面，以達到集大權於一身的目標。
蔣介石下野後，李宗仁即於一九二七年八月十六日電告汪精衛，請將武漢中央政府盡快遷往南京，汪於翌日在國民黨中央政治委員會第四十七次會議上，宣稱：
遷都南京是中央四月初旬就決定了的議案，何況現在南京政府已經無人負責。據今天所收的報告，也說南京政府已經停止辦公，事實上已不存在，那麼我們應決定到南京去的方式。(見該次會議速記錄)
遂復電李宗仁，決定遷寧。於此可見雙方議定遷都南京，表明南京方面自立的中央已經撤銷，以武漢中央為惟一的國民黨中央，亦為寧漢由分裂而合流的主要前提。汪乃於九月五日率領顧孟余、徐謙、陳公博、朱培德等中央委員，乘艦抵達南京。汪一到就力述，要寧漢合作、黨內統一，必須召開二屆四中全會，以承續武漢召開的三中全會，亦借此顯明武漢中央的正統與合法。但汪到之後，發現寧方中央委員胡漢民、吳稚暉、張靜江、蔡元培、李石曾等人已經避居上海，很可能受蔣之嗾使，不與汪合作籌開四中全會。汪為了表現合作精神，派譚延闓、孫科兩人赴滬溝通。但為胡等所拒。汪遂偕譚、孫以及朱培德、李宗仁、李烈鈞、程潛、於右任等要員聯袂去上海勸駕。不意不僅胡漢民等不願合作，而且聚集上海的極右西山會議派老國民黨也來攪局。蓋因蔣介石於四一二上海屠共之後，即恢復西山會議派林森、鄒魯、張繼等黨籍，密談統一黨務，早已合流。故滬寧沆瀣一氣，刻意在法統問題上大做文章，抵制汪堅持召開的四中全會。如張靜江竟聲稱，武漢政府並非正統政府，前所召開之三中全會乃聯共會議，也屬非法，故根本沒有召開四中之資格，而主張重新召開三中，以銜接二屆二中。且不論有違寧漢合作之前提，若以聯共為非法，則孫中山聯俄容共之一屆即應否認，根本要重起爐灶。以張與蔣之親密關係，此橫蠻刁難之語顯由蔣之授意。更可注意者，後來蔣再出奪權成功，逕自召開四中全會，就不管合法不合法了。更可見張之目的，就在搗蛋，使話談不下去，無從溝通。
國民黨各方人馬再於九月十一日聚會，汪精衛再度提出四中全會召開之必要，然續遭張靜江、蔡元培、李石曾等反對，西山會議派分子更在旁鼓噪。在此情況下，原在武漢中央的孫科提出折中辦法，由滬、寧、漢三方籌組中央特別委員會，暫時行使中央職權，以籌備召開三大，得到大部分人贊同(見《國民黨中央特別委員會第一次會議紀錄》原件)，汪孤掌難鳴，只好默認，但心中極不以為然，為了不使談判決裂，僅表示消極，遂於十三日夜離開上海，前往九江，通電引退。汪之堅持召開四中全會，自有其原則立場，自謂：「中央第四次全體會議之被挫，特別委員會之產生，實為寧漢合作以後，至可痛心之事，亦本黨至可痛心之事也。」(汪精衛《復法總支部函》)李雲漢以此指責「汪兆銘反覆」(見氏著《從容共到清黨》，頁七七二)，殊失公正。特委會雖於九月十五日正式在南京成立，汪亦被選為國府常委之一，但由於汪之消極引退。所謂合流，全無實質意義，必為野居奉化墳莊的蔣介石所竊笑自喜!
武漢政府遷寧之後，兩湖便在軍事強人唐生智控制之下。唐原反對合流，欲東下奪權，自有其個人野心，乃慫恿汪成立武漢政治分會，以與特委會相抗。唐更公開宣佈反對特委會，廣州張發奎通電支持，國民黨遂又成對峙之勢。南京特委會遂派孫科、伍朝樞、居正等上廬山晤汪，在同意於十一月一日在南京召開二屆四中全會的前提下，獲致恢復中央之協議，可見汪所爭主要僅此一端。然而十月二十日南京特委會突下令討伐唐生智，引發戰爭，四中全會又因故流產，汪憤然取道回粵，反對南京特委會，準備在粵籌開四中全會。約當此時，蔣介石提早自日本返滬，於十一月十日電汪，贊同召開四中全會，並請汪赴滬晤商，並參與預備會。兩個多月前，蔣初下野，猶拒見汪，汪鑒此善意，遂於十一月十五日偕李濟深在廣州啟程，經港赴滬。不意又發生變故，廣州於十六日晚上發生事變，張發奎與黃琪翔以武力驅逐代理李濟深主持粵政的黃紹竑。因而汪於十八日抵滬時，即遭李宗仁、吳稚暉、蔡元培等妄加攻訐，令汪百口莫辯。吳稚暉更於十二月五日聯合張靜江等，提案彈劾汪精衛、顧孟余、陳公博。又是吳稚暉、張靜江在耍把戲，能不懷疑幕後的「黑手」？在此處境下，汪乃順水推舟，促請蔣介石復職而個人引退(閱《汪精衛先生最近演說集》，頁一七九)，冀求稍緩攻擊。然十二月十一日又發生廣州暴動，共產黨起事，組織公社，吳稚暉等再借此變本加厲指責汪精衛，妄指其「釀成此次之巨變」。汪雖辯解，但南京國府仍於十六日決議討伐張、黃之外，並通緝汪、陳、顧三人。事情既已發展到此一地步，汪精衛不得不於當晚偕秘書曾仲鳴，懷著鬱憤心情，再度登輪赴法。我們不能不懷疑，蔣介石串通特委會分子，引汪離粵，俟汪抵滬後，藉故攻擊，不遺餘力，不容置辯，使其無法立足而被驅出國門。汪精衛此次離國，與上次因中山艦事變出國，雖屬「異曲」，但對蔣介石而言，卻是「同工」。
汪出國門後，特委會卻於十二月二十八日自告結束，該會除了令各地各級黨部，厲行清黨，重新登記黨員外(見《國民黨中央特別委員會第四次會議記錄》一九二七年九月二十七日，頁六)，好像是特別與汪過不去而設立的。在中樞空虛的情況下，蔣介石復出的時機已經成熟。一九二八年年初，復國民革命軍總司令職，二月二日在南京召開二屆四中全會，汪堅持而做不到的，蔣於一退一進之餘做成功了，攫取了國民黨最高權力。一時之間身邊沒有了汪精衛的陰影，沒有了共產黨的陰影，也沒有了唐生智的陰影。在大權幾乎獨攬之下，四中全會任命他為中執會黨務委員兼組織部長和軍委主席，進而通過整理各地黨務案，削減派系力量，基本上已集黨、政、軍實權於一身。