蔣介石於下野之前，固然已做了復出的準備，如果真歸隱山林，宋美齡才不肯嫁給樵夫漁父呢，不過運氣也確在他的那一邊。共產黨大搞廣州公社暴動，給吳稚暉那一幫人大肆攻擊汪精衛的借口，將汪逼走。誠如李宗仁所說，汪一走，蔣復出便穩坐第一把交椅。
蔣於復出之前，做了一件頗具流氓手法的大事，那是製造一九二七年十一月二十二日的南京慘案。當時南京政府的當權派是「中央特別委員會」，蔣介石利用新成立的中央黨務學校(他自兼校長，教務主任戴季陶、訓育主任丁惟汾、總務主任陳果夫)煽動學生鬧事，於二十一日搗毀了國民黨南京市黨部，翌日黨校學生又聚眾示威遊行、高呼口號，由於軍警開槍鎮壓，造成血案。事後，蔣接連發表措辭嚴厲的談話，抨擊政府，極具火藥味，更於二十四日策動組成慘案後援會，要求嚴懲兇手，接著各地黨部發表通電響應。十二月三日，蔣於二屆四中預備會議時議定組織特別法庭，指控居正等十人有罪。蔣身為黨校校長，學生滋事又如此袒護，其幕後導演之事實已呼之欲出。蔣為了東山再起，必須要打倒新當權派「特委會」，遂命陳果夫運用其組織部和黨校勢力，鼓動「反特委會」運動，走上街頭，釀成南京軍警開槍的「一一二二慘案」，使當權派聲譽掃地，促使蔣重掌大權。(見王克文《陳家黨比蔣家天下更早畫下句點——從現代史觀點看陳立夫在國民黨史上的角色與影響》，頁三十)至此，慘案由蔣主導已屬定論。一般史論認為蔣借此事打擊西山會議派，其實西山派只是遭池魚之殃，那些頑固政客無拳無勇，因蔣反共，早已投靠，蔣要重掌大權，絕非障礙。度蔣之意，只是打擊現政府的威信，使其復出更具迫切感，真正造成斯人不出奈蒼生何的情況。古人說，一將功成萬骨枯，而此蔣為了造勢，也不惜人頭落地，並殃及居正等老同志，亦云厲矣!
居正字覺生，是湖北廣濟人，生於一八七六年，那正是清朝光緒二年，民國成立前三十二年。他在中國受舊教育，後來到日本留學，念的是法政大學，並且從事革命運動。當時中國的革命，有兩大家：一類是邊緣革命家、一類是中原革命家。邊緣革命家只會在海外或沿海省份旁敲側擊，結果作秀有餘，動搖清廷根本不足；中原革命家則主張打硬仗，他們深入民間、腹地和內陸，冒真險、犯大難，進行革命。辛亥武昌起義的成功，就是中原革命家判斷正確的明證。中原革命家之一、因痛恨蔣介石而唾棄政治的大儒熊十力，在居正《辛亥札記》序中就說：「武漢為南北關鍵，一旦動搖，則四方瓦解。」武昌起義終使清廷四方瓦解，原因正是在此。而武昌起義的大功臣之一，就是居正。
一九一二年中華民國成立，居正被任命為內政部次長並代理部長。一九一三年，當選為參議院議員。二次革命失敗，亡命日本，加入中華革命黨，任黨務部長，《民國雜誌》經理。一九一六年到山東組織中華革命軍東北軍，任總司令，占濰縣，攻濟南。在這段期間，他手下有一位參謀長，不是別人，就是蔣介石。所以，在國民黨的倫理中，居正是蔣介石的上司。儘管是上司，照樣無辜被整肅。居正夫人鍾明志說，居正雖名列中央特別委員會，並不常住南京，於慘案全不知情，卻仍被株連，存心羅織，最後不了了之，然而一年多以後在上海又莫名其妙被收押在警備總部，「腳鐐手銬，如獲江洋大盜。」(鍾明志《我的回憶》稿本)直至擴大會議失敗，南京有人關說，始准家屬會見，不久起解南京，到九一八事變後才獲自由，並且當上了司法院長。他有詩記此奇遇，說：「禦侮當前恥鬩牆，精誠團結為非常。檻車甫脫容登閣，慚愧夷吾笑楚狂。」寫的就是這回事。真教居正哭笑不得，能無伴君如伴虎之懼？
蔣於復出之後，又做了一件頗具流氓手法的大事，那是借北伐需款，大量發行國庫券，親自致電上海總商會以及中國、交通銀行，強力推銷。中國銀行的張嘉璈於前一年已被蔣敲去一大筆，不願再輕易介入，不肯應命赴南京商量。蔣竟大怒，於二月二十八日致宋子文電文中，指責張不來寧即是「阻撓北伐」，並限張於一星期內承銷一千萬元。張也動了肝火，措辭強硬地回復宋子文，說是：
此等電文，余無法承受。若轉與余，只好復電決裂。試問：國民軍自粵而湘而贛而浙而寧，中行幫助逾千萬；去年第一次庫券，中行允八九百萬；第二次庫券，中行允六百餘萬；龍潭之役，孫軍過江時，中行幫助幾何？此次上台，中行助力幾何？去年過年，中行又借幾何？此謂把持何？北伐失敗之罪，繫於何人？非嚴重詰問不可，否則如此無信無義之人，何能當我輩首領!我輩犧牲為行，一生窮困，至於今日，所望事業有成、國家有裨，若因此二者而絕望，則既無興趣，隨時可拋棄地位。(楊天石《民國掌故)，頁二一五)
宋子文婉言相勸無效。翌日張又得蔣之電報催募，遂以「感觸太深、精神不濟」為由，隱居不出，避不見面，以抗議「威權相逼」。三月四日，蔣親自到上海施壓，聲稱：「北伐費必須籌足，每月千萬始可進行。」張嘉璈雖心不甘情不願，但是還是怕決裂而引起金融風潮，最後議定中銀墊款六百萬，分三個月付清。蔣終於表示「融洽諒解」，再次平白獲得巨款。(參閱楊天石《民國掌故》，頁二一四至二一六)其行徑何異強盜勒索啊!
蔣介石於一九二八年元月四日回到南京，宣佈將於九日恢復總司令職務，並預告四中全會的召開，日期是一月十三日到二月一日。此會雖一直由汪精衛堅持要召開而未果，但現在召開完全在蔣介石籠罩之下，聽其意志辦事。寧漢合流，原是取消寧偽府，以便漢府遷寧，而現在蔣取得權力後，實際上等於是他擅立的寧偽府，把漢真府給消化掉了，不僅中共被趕盡殺絕，國民黨左派被掃地出門，汪派人馬也被排除在權力的大門之外。
蔣安排好政治權力後，即準備繼續軍事行動，統一中國，完成孫中山的遺志。他稱之為「第二次北伐」，但北伐的性質已大大改變。他仍稱之為國民革命，但革命的性質與原有的相比更背道而馳。廣州誓師時，國民革命軍北伐仍秉承孫中山的遺志聯俄容共，但現在是反蘇反共，對共黨與「左」傾分子格殺勿論，蔣氏反赤情緒比孫傳芳實有過之而無不及。為了反共，同時壓制了群眾運動，而群眾運動乃是當年廣州革命根據地的基礎，如省港大罷工，震動一時，也是北伐迅速成功的推動力。然後在蔣主導下的二屆四中全會上，連中央政府以及各級黨部中有關工、農、商、婦女、學生等組織都被取消了。他不再靠群眾，而依賴一直在建設中的特務組織。再說，原來的革命有兩大目標：「打倒軍閥、打倒帝國主義」，旗幟鮮明。但蔣一到京滬，立即與帝國主義妥協，甚至屈服。他復職後不到幾天，就槍斃了五十餘名士兵，指控他們是在共黨嗾使下於前一年(一九二七)攻擊外國人的罪犯，還逮捕了不少軍官接受軍法處置。(見Crozier，TheManWhoLostChina，P．125)是知蔣不僅不與帝國主義嚴正交涉南京慘案，而且殺人媚外。其欲保障帝國主義在華權益的態度與政策，更毫不隱飾。至於打倒軍閥，蔣早已收編了不少軍閥為己用，雖然還須打倒張宗昌、孫傳芳，以及奉系舊軍閥，但國民黨內新軍閥集團亦已形成。蔣介石自領第一集團軍，以其親信黃埔學生為班底組成的嫡系部隊，聚合了六十師之多，完全聽命於蔣。蔣為了展示大家長的威風，於復出之時，向何應欽施了下馬威，令何驚羞交加，告假兩月。馮玉祥的國民軍(又稱西北軍)，於北伐節節勝利時集體加入國民黨，就像令全部士兵受洗入基督教一樣，組成第二集團軍。閻錫山及其山西部隊到一九二七年九月才加入國民黨，組成第三集團軍。李宗仁與白崇禧的桂系部隊，於「第一次北伐」中戰功卓著，勢力不斷擴張，組成第四集團軍。這四個集團軍各有地盤、各有軍頭，名為黨軍，實聽命於軍頭，非新軍閥雲何？而「第二次北伐」的軍力就是靠這四個新軍閥集團。
蔣在南昌抗命時，武漢中央曾擬取消總司令以削其兵權，惟力不從心。而今蔣恢復總司令職之後，竟自動改為平行的四個集團軍，各稱總司令。不僅此也，蔣還主動於南京中央政治會議中，提議設立廣州、武漢、開封、太原四個政治分會，分由李濟深、李宗仁、馮玉祥、閻錫山出任主席，實同政治分權。李宗仁認為蔣於下野前曾被人罵獨裁，故復出伊始，做此安排，以杜人口。我們覺得並不盡然，獨裁乃其一貫目標，為達此目標，自有其迂迴的權術與戰略運用，所謂「奪之先予之」。一九二八年年初的形勢，馮、閻各據一方，而二人資歷都在蔣之上，為了盡快底定華北，絕對得罪不得，而李、白桂繫於擊潰唐生智後，控馭兩湖，軍容甚盛，亦必須拉攏籠絡。更何況直魯軍雖已是強弩之末，但張作霖的奉軍以東北為根據地，實力仍然強大。簡單言之，蔣為了清除舊軍閥以完成北伐，必須團結新軍閥不可。
蔣介石所謂的「第二次北伐」，於一九二八年四月十日開始總攻擊，第一集團軍沿津浦鐵路北上。馮玉祥第二集團軍攻掠京漢路以東與津浦路以西地區。閻錫山的第三集團軍自太原出娘子關，截斷京漢線。李宗仁的第四集團軍自武漢循京漢鐵削匕進，與友軍會師北京。如此龐大的軍團，南北夾攻，聲勢浩大。孫傳芳與張宗昌的直魯軍於龍潭一役後，已一蹶不振，然而蔣介石及其第一集團軍沿津浦鐵路北上時，左翼忽被孫傳芳殘部突破、頓感驚惶失措，幸馮玉祥的孫良誠部及時截斷孫軍退路，始得解圍，蔣馮兩軍遂於四月二十二日在泰安會師，並於五月一日進佔山東省城濟南。
蔣介石進駐濟南，當時濟南有日僑兩千人，日本田中政府遂以護僑為名，不顧蔣之外交部長黃郛一再保證日人生命財產的安全，蔣復於三月六日歡宴日本記者演說時，強調「中日親善提攜」(見《中華民國重要史料初編——對日抗戰時期》緒鳊(一)，頁一一四)，仍於四月十八日決定派五千遠征軍到山東。北京、南京兩府俱向日本抗議侵犯主權。蔣到濟南後立即與日將獲致協議，日軍撤退，蔣保證維持和平，並令各軍「對日本始終忍耐，勿出惡聲、勿使衝突」(見同書，頁一二四)，但五月三日一早就發生衝突，引起槍戰。蔣介石害怕，同意撤至城外，以換取停戰。根據英美公使的密件報告，衝突的發生實由於蔣軍入城後紀律太壞之故。(見Wilbur，TheNationalistRevolutioninChina，P·179)然而蔣雖撤兵城外，日軍仍借題發揮，派遣生力軍，聲言懲罰，並於五月七日遞交第一次通牒，要求處置有關官員，解散有關部隊，撤去濟南城內部隊，查禁一切反日宣傳，以及所有中國部隊向濟南至青島鐵路南北兩側撤退二十華里等，並限十二小時內答覆。(見同書，頁一三三)蔣介石在日帝橫蠻威嚇下，居然答應一部分極具侮辱性的條件，但日方仍不滿意，於五月八日下午向濟南實施攻擊，至十一日蔣軍無力抵抗而屈服，濟南城內外遭到嚴重破壞，中國軍民死亡數千人之多。(據《蔣總統秘錄》，日寇殺害中國軍民三千二百五十四人，見第七冊，頁五十一)
蔣介石於五月五日晚上，當日機轟炸濟南時，就倉皇逃出城外，把總司令部遷至黨家莊車站，翌日馮玉祥來晤(見《馮玉樣日記》第二冊，頁四五八)，黃鄲、王正廷、楊傑、楊永泰、蔣作賓等參與會議。蔣介石居然在會議上提出放棄北伐，與奉張劃江而治的主張，但遭馮玉祥等反對。最後決定避開日軍，繞道北伐。五月十日，南京政府黨政聯席會議在兗州召開，與會國民黨要員一致表示必須對日妥協，滿足日軍一切要求，並訴請國聯調停。有趣的是，蔣介石再度提出放棄北伐，此次馮玉祥不在場，由譚延力言不可放棄，蔣介石無辭以對，只好打消這個念頭，再度肯定繞道北伐的前議。但他自己不肯再在前線指揮了，把任務交給馮玉祥後，即返回徐州去也。(參閱蔣致馮玉樣電，見《中華民國重要史料初編——對日抗戰時期》緒編(一)，頁一三九)
濟南慘案毫無疑問地暴露了日帝橫蠻凶殘的真面目，不過一片反日情緒卻也模糊了蔣介石舉措失當的真面目。這件慘案是在他眼皮底下發生的，他一開始就採取極為軟弱的對策，不惜卑躬屈膝，在五月二日的日記裡自認：「不屈何以能伸，不予何以能取，犯而不校，聖賢所尚，小不忍則亂大謀，聖賢所戒。慎之!勉之!」他又於五月六日電告南京政府，「轉飭所屬，對各友邦領事、僑民生命財產，須加保護，凡有礙邦交之語宣傳，宜隨時取締。」(《見國聞週報》第五卷第十八期)但是他對帝國主義的屈辱，並未稍減日帝的暴行，更未得絲毫善意回報，可稱國恥。(參閱楊天石《濟案交涉與蔣介石對日妥協的開端》，頁七十五至八十九)他於失敗屈辱之餘，竟憂懼喪志，二度想放棄北伐。他還掩飾第一集團軍的軍紀廢弛。前次漢口事件與南京事件，他有共產黨可以指責，而此次共黨既被他清除乾淨，已無代罪羔羊，只好加以掩遮。其實蔣軍的紀律絕不會比一般軍閥的軍隊好。
蔣介石於兗州會議後回到徐州，把繞道北伐進兵河北的任務交給馮玉祥，讓第二集團軍去應付京津一帶的帝國主義，以及號稱百萬的奉軍。他又約馮玉祥與白崇禧到鄭州，於五月二十一日開軍事會議，以地盤與軍餉來鼓勵馮、白積極進攻。白返漢口後，即率第四集團軍北上。白回憶稱：「奉軍之偵察機發現我方之援軍有百餘列車，才退回關外。」(《白崇禧先生訪問紀錄》上冊，頁九十)張作霖奉軍足與閻錫山晉軍周旋，但桂系大軍壓境，勢必退守東北。不過由於張作霖極度敵視馮玉祥，故於離京前所做撤退安排，故意有利閻錫山進取京津。奉軍於五月底即棄守保定。蔣介石於五月三十日到石家莊晤閻，許諾京津地盤。六月一日張作霖通電出關，六月三日清晨在皇姑屯被關東軍炸死，張學良於六月四日至天津，安排奉軍退出山海關。同時北京的「和平維持會」電請在保定的閻錫山進京。八日閻屬商震部先入京，翌日閻偕白崇禧進京，設立衛戍司令部。十二日閻以部將張蔭梧任北京市警備司令，命傅作義任天津警備司令，完全控馭京津地區。蔣介石先促馮玉祥進取河北，後讓閻錫山據有京津，自有製造閻馮間矛盾之嫌。馮玉祥於六月二日電蔣，「謂我軍是為革命而犧牲、為統一而作戰，非為爭地盤而革命」(《馮玉祥日記》第二冊，頁四六八)，已露意氣，馮的不開心，不僅表之於電文，而且付諸行動，命韓復矩故意阻截北京公使館所請維持秩序的一旅奉軍，並繳其械。公使團與南京政府幾經交涉，才逼使馮玉祥放人還槍。顯然馮生此事端，令蔣難堪。
蔣介石以南京政府名義，於一九二八年六月十五日發表宣言，通告統一完成。事實上，統一併未完成，新疆至十七日始易幟；張學良退據東北，至歲暮才內屬。日本早已警告南京政府，不得染指東北，蔣豈敢進兵？由於當時感到統一東北無望，才會於六月十五日宣告統一。他未料到張學良國仇家恨，不顧日帝的威脅與阻撓，毅然於同年十二月二十九日宣佈東北易幟，歸屬中央。(見《申報》一九二八年十二月三十日報道，另見同日上海《新聞報》)然而即使東三省內屬，南京政府成為唯一的中央政府，但是各個集團軍雄踞一方，派系林立，軍令與政令均未真正統一。所謂北伐成功，全國統一，根本是有名而無實。