北京政府的事情初步擺平之後，接下來張作霖的目標就是南方直系殘餘了，但是段祺瑞為保持力量均衡，並不同意對江浙直系用兵。而在南方直系殘餘通電擁護北京政府之後，張作霖一時也找不到合適的借口南下征討，所以事情就這麼拖了下來，一直拖到1924年的12月份。這時一個變量出現了，這個變量很快就被張作霖名正言順地利用了。要把這個變量說清楚，事情還得從原浙江督軍盧永祥說起。我們知道，蘇浙大戰江蘇督軍齊燮元與浙江督軍盧永祥爭搶上海地盤，結果盧永祥戰敗逃亡日本。沒過幾天，馮玉祥發動「北京政變」成功，電告盧永祥從速回國。盧永祥是皖系，政變後皖系領袖段祺瑞重新上台，盧永祥的好運氣來了。果然，回國後沒多長時間，段祺瑞就任命其為直隸督辦。就段祺瑞來說，他想擁有自己的實力，就必須控制武裝，而盧永祥是其堅定而忠實的嫡系，讓盧永祥佔據直隸地盤，自己說話也有底氣。但這下子捅了馬蜂窩了，因為這個直隸督辦的任命，段祺瑞並沒有跟張作霖商量，而是自作主張，先下手為強。
大家知道，這個直隸督辦奉系早就虎視眈眈了，李景林費盡九牛二虎之力才從馮玉祥手裡把直隸地盤搶過來，就等著北京政府一紙任命了，如今任命的卻不是他。李景林那個火啊，堅決不服從段祺瑞的命令，他有兵有槍，只要張作霖不發話，段祺瑞奈何不了他。張作霖當然不會發話了，事情陷入了僵局，段祺瑞只能再找張作霖。對於張作霖來說，他要的就是這個效果，南下征討的機會終於來了。
張作霖公開為皖系軍閥盧永祥鳴不平，說盧永祥原本是江浙富庶之地的督軍，如今卻被人逼得無處可待了。因此他提議把蘇皖兩省地盤劃給盧永祥掌控，如果南方膽敢不從，他就派兵護送，一應經費開支全由他承擔。對於這個方案，段祺瑞和他的心腹吳光新以及盧永祥反覆商量，認為這個方案可行，不費一兵一卒而唾手可得兩省地盤，非常划算。尤其是對盧永祥來說，與其做一個有名無實的直隸督辦，還不如南下復仇來得痛快。於是段祺瑞下令罷免江蘇督辦齊燮元，任命盧永祥為蘇皖宣撫使兼江蘇督辦，王揖唐為安徽督辦。同時任命李景林暫行署理直隸督辦，任命奉系大將闞朝璽署理熱河都統。後面兩人的任命，是作為張作霖南下幫助奪取地盤的回應。
1924年12月12日，張作霖、盧永祥、張宗昌、李景林、吳光新等人在天津召開會議，決定由盧永祥率兵南下，張宗昌擔任先鋒。
這個張宗昌就是前文說過的臭名遠揚的「三不知」將軍，他藉著第一次直奉大戰迅速崛起，然後又在第二次直奉大戰中撈得盆滿缽滿，成為發展最快的部隊。當時張宗昌在灤州截住直軍退路後，直軍已經陷入了奉軍包圍，馮玉祥北京政變消息又在軍中傳開，直軍高級將領紛紛腳底抹油，部隊迅速土崩瓦解。因此張宗昌沒費吹灰之力，就收編了直軍精銳部隊彭壽莘部六七萬人，所遺大炮、機關鎗、槍支彈藥全被張宗昌收繳。人的運氣來了真是擋都擋不住，張學良、郭松齡在山海關外與彭壽莘部對抗四十餘天，死傷無數，半點好處也沒撈著，而張宗昌趕過來不到兩天就把所有勝利成果接收了。不僅如此，完成收編後張宗昌掉頭西進，一路追趕張福來潰兵，先後經過蘆台、昌黎、軍糧城，直到天津附近，直軍拋棄的武器、彈藥、糧襪、被服無數，毫無戰鬥力的潰散部隊及散兵游勇到處都是。張宗昌沿途收集，不斷擴大自己的隊伍。到第二次直奉大戰結束，張宗昌的部隊膨脹了七八倍以上。於是張宗昌將手下褚玉璞、許琨、程國瑞、王棟、畢庶澄等部隊，均擴編為三團制的旅(相當於師)，另外，令鍾震國、方振武各編一個兩團制的旅。至此張宗昌已經坐擁雄兵十幾萬，幾乎可以與張作霖齊平了。
眼下，張宗昌的機會又來了。張作霖要南下，選中的部隊是張宗昌。為什麼要選張宗昌？一來張宗昌有這個實力；二來張宗昌並非張作霖的嫡系，十幾萬部隊放在京畿附近畢竟有些不放心；三來南下意味著開戰，開戰就有風險。而對於張宗昌來說，十幾萬部隊要生存，這就需要有地盤，因此他比張作霖更急切地需要南下。
張宗昌的好運氣再次來臨，這位混天混地的混世將軍不知道前輩子積了什麼德，好運氣那是接連不斷。本來以為南下要遭遇很強的抵抗，沒想到一路通行無阻。徐州本來駐有陳調元的一個師，沒想到這陳調元當年與張宗昌一起在馮國璋手下混過，那時陳調元是南京賓兵司令，而張宗昌是江蘇第六混成旅旅長。張宗昌出手大方，一應吃喝嫖賭全由張宗昌負責，張宗昌還給陳調元買了一個上海名妓做姨太太，兩人由此結下了深厚的友誼。聽說是當年的老朋友張宗昌大軍南下，陳調元趕緊大路敞開，把徐州拱手送給了張宗昌。徐州既下，南京的門戶就打開了。
接下來要看孫傳芳的態度了。孫傳芳在蘇浙之戰中堅定地站到了江蘇督軍齊燮元一軍，還率領五省聯軍幫助齊燮元打敗了盧永祥，這一次盧永祥捲土重來，孫傳芳會再次幫助齊燮元嗎？孫傳芳第一反應是要幫助，因為自己現在佔領浙江，前任浙江督軍盧永祥在張宗昌的護駕下來到家門口了，豈非要搶自己的地盤？與其坐以待斃，不如聯合齊燮元起而抗之。因此孫傳芳致電段祺瑞明確反對奉軍南下。為先下手為強，孫傳芳決定先將上海搶到手裡，1925年1月11日，孫傳芳與齊燮元組成江浙聯軍，齊自任江浙聯軍第一路總司令，孫任第二路總司令，齊孫南北兩路對進，時鎮守上海的淞滬護軍使張允明部紛紛潰散，齊、孫聯銜佔領上海。
為了分化齊孫組合，段祺瑞就勢任命孫傳芳為浙江督辦，以寬孫傳芳的心，表示盧永祥目的只在江蘇，無意南下浙江。同時宣佈上海永不駐兵，亦不再設軍事機關。這樣，孫傳芳因為上海不駐兵，自己的地位也有了明確說法，態度緩和了不少，缺少了孫傳芳的支持，齊燮元獨木難成林，根本不是張宗昌的對手。張宗昌利用白俄軍的鐵甲車開路，很快南下佔領江蘇省內的鎮江、丹陽、常州、無錫、蘇州，先頭部隊到達上海。齊燮元內外交困之下只好通電下野，張宗昌率軍進入上海，與孫傳芳部南北對峙。齊燮元之敗軍第六師、第十九師投靠了孫傳芳，增強了孫傳芳的實力。
為了解決南下奉軍與孫傳芳之間的問題，段祺瑞的代表吳光新、張作霖的代表張宗昌、孫傳芳的代表王金鈺在上海舉行會議，商定孫軍退往松江，奉軍退往昆山，為此簽訂了新的《江浙和平公約》。但是孫傳芳依約退至松江後，張宗昌以沒有地盤駐軍為由，依然滯留上海花天酒地，這個地方張宗昌很喜歡，他想賴著不走了。
請神容易送神難，張宗昌藉著護送盧永祥南下到達上海後就不走了，怎麼辦？這個瘟神待在這裡，浙江的孫傳芳不安，新任江蘇督辦的盧永祥也不安。盧永祥眼下還是光桿司令，兵沒有一個，張宗昌對他的威脅最大。萬般無奈，為了保護自己的嫡系愛將，段祺瑞只好任命張宗昌為蘇皖魯三省剿匪總司令，以徐州為其駐地。張宗昌不太願意，徐州怎好跟上海比？但是這次把張宗昌從上海調往徐州的事情，段祺瑞已經徵得了張作霖的同意，張宗昌可以不聽段祺瑞的，但不敢不聽張作霖的，沒有辦法，張宗昌只好移兵徐州了。
作為把張宗昌調離上海的交換條件，張作霖以蘇人治蘇為由，把自己的秘書鄭謙推薦為江蘇省長，沒有辦法，段祺瑞只得照準。這樣，江蘇督辦是盧永祥，掌軍權；省長是鄭謙，掌行政。在當時全國所有各省中，都是督辦權力大，基本上督辦說了算，省長也就是跟跟風、辦辦事的，但是江蘇不一樣。盧永祥是依靠奉軍的勢力做江蘇督辦的，自己沒有軍隊，原本寄望著南下江蘇接管齊燮元的第六師和第十九師，沒想到這兩師投靠了孫傳芳。四個月前自己在浙江的部隊又都被孫傳芳消化得差不多了，指望他們前來投誠那也是癡心妄想。就這樣，一個光桿督辦面對一個有奉軍全力支持的大帥秘書，其結果可想而知。軍政大權基本上都落在鄭謙手裡，奉軍進蘇的部隊，盧節制不了，也根本調不動。盧想培養自己的嫡系部隊，那也行不通，因為財政大權控制在鄭謙手裡，沒錢怎麼培養？
張宗昌退出上海和江蘇南部後，1925年4月，北京政府任命其為山東軍務督辦。這樣，其部隊繼續北撤全部進入山東境內。江蘇在名義上算是完全歸盧永祥所有了，但是別急，張宗昌前腳剛走，張作霖後腳就派了姜登選過來。1925年5月21日，奉軍大舉入關，姜登選率部進入上海，派邢士廉為上海戒嚴司令。鄭謙的後台更硬了，畢竟以前張宗昌還是奉軍的非嫡系部隊，這姜登選卻是嫡系中的嫡系，與鄭謙關係又好，因此奉系對江蘇的控制有增無減。日子實在太艱難了，盧永祥好歹也做過一方諸侯，如今有事無事都要向人家請示匯報，沒有半點主權，實在太窩囊了。6月下旬，盧稱病辭職，終於把自己的蘇皖宣撫使和江蘇督辦職務交了出來。與此同時，安徽督辦王輯唐也因為兵少而駕馭不住省內局勢，跟著宣佈辭職。這樣，在張作霖派兵護送盧永祥南下之後的7個月左右，蘇皖兩地全都落入了奉系之手。段祺瑞此時方才明白，自己為了盧永祥鬧騰來鬧騰去，開罪了直系不說，還把本來用於牽制奉系的齊燮元趕跑了，蘇皖兩省也送給了人家。合著自己的折騰只是為他人作嫁衣，人家不但不感謝你，你還得去感謝人家，真是賠了夫人又折兵。但是沒有實力支撐的段祺瑞只好忍氣吞聲。
段祺瑞願意忍氣吞聲，有一個人卻不願意了，這個人就是孫傳芳。前文說過，孫傳芳原本跟奉軍約好各自撤出上海。張宗昌撤出了，但是姜登選又進來了，還帶來了一個邢士廉的第二十師。1925年8月份，北京政府繼任命李景林為直隸督辦、張宗昌為山東督辦之後，又根據張作霖的建議任命楊宇霆為江蘇督辦、姜登選為安徽督辦。這個任命很有問題，它引起了奉系的內部之爭並直接導致了奉軍在南方的失敗，這是後話，不提。這裡只提這個任命帶給孫傳芳的恐慌，那就是奉系勢力步步為營，從東北沿著海岸線一路發展到了江南，下一步目標是誰不言而喻。與其坐以待亡，不如起而抗之，所以孫傳芳下了決心一定要打一場反奉戰爭。
孫傳芳要反奉，消息傳給張作霖，張作霖卻不信，認為三五年內奉軍不打別人已經夠可以的了，誰長了豹子膽還敢打他？持此觀點的還包括張作霖的總參謀長楊宇霆，這個人當參謀長當膩了，想試試當督軍的滋味，江蘇督軍任命下來後，他就不帶一兵一卒的到江蘇走馬上任了。他以為憑奉系的實力沒人敢反抗。當時的情況，江蘇境內有身為江蘇軍務幫辦的陳調元的第四師、白寶山的第一師、馬玉仁的第三師以及鄭俊彥的第十師，奉軍則有丁喜春的第八師，駐南京，邢士廉的第二十師，駐上海，浦口一帶還駐有隸屬於郭松齡的第二步兵旅，這個步兵旅名為旅，其實轄三個步兵團，為一個師的建制，是奉軍的精銳。而且陳調元早就要求將其所部編入奉軍序列，所以陳部也算半個奉軍了。從上述情況來看，奉軍實力也並未占弱勢，如果籠絡得當，蘇軍完全可以為奉軍所利用。張宗昌在的時候，就很好地利用了陳調元來控制蘇軍，以至於盧永祥根本無從插手。張宗昌這個人口碑不好，但待人接物卻很有一套，楊宇霆在這方面實在差得太遠。歷史證明，楊宇霆這個人當參謀可以，當督軍還真的不行，他差點給張作霖帶來了滅頂之災。