身著大元帥服的張作霖
南口大戰之後，從1926年的9月到1928年的5月，差不多一年多的時間裡，是張作霖獨自控制北京政府的時候。而且，伴隨著南方國民黨政權的北伐，當時國內可以與張作霖分庭抗禮的幾股勢力，比如吳佩孚的直系、孫傳芳的五省聯軍以及張宗昌的直魯聯軍等等均先後失敗，北方只剩下張作霖能與蔣介石統率的北伐軍相抗衡了。1927年6月18日，除了北伐軍以外，各派勢力共同推舉張作霖為安國軍大元帥，6月20日，張作霖以大元帥名義任命潘復組閣，這是北京政府的第32屆內閣，也是最後一任內閣。這樣，從1919年主政東北到1927年問鼎中原，經過8年的反覆較量與爭奪，張作霖終於在群雄角逐中勝出。
在這短短的不到兩年的時間裡，張作霖是如何實現這一夢想的？在1926年9月南口大戰以後，他的競爭對手先後有吳佩孚、孫傳芳以及蔣介石。
吳佩孚迴光返照
從張作霖有資格逐鹿中原開始，吳佩孚似乎就成了他始終繞不過的坎，如果不是吳佩孚，在直皖戰爭之後，張作霖就有希望問鼎中原了。然而正因為有吳佩孚在，張作霖不得不厲兵秣馬，先後經過兩次直奉戰爭才總算把吳佩孚拉下了馬，結果剛剛拉下了吳佩孚又跑出了一個馮玉祥，此人聯合幾股勢力差一點就把張作霖打回了老家，好在張作霖及時改變策略，再一次跟吳佩孚合作才扭轉了局面。
也許運勢使然，跟張作霖再度合作的吳佩孚竟然在河南戰場順風順水，不消一個月就幹掉了岳維峻統率的十幾萬部隊，使國民軍第二軍在馮玉祥的國民軍序列裡名存實亡。要知道國民軍第二軍是以前胡景翼統率的精銳部隊，該部在國奉戰爭中將李景林統率的奉軍打得潰不成軍以至全軍覆沒，其戰鬥力可想而知。而吳佩孚竟然不費吹灰之力就取得如此巨大的成功，不能不讓張作霖刮目相看了。所以在最初合作時，張作霖刻意保持低調，事事謙讓。吳佩孚也不客氣，進入北京城後不打招呼就直接任命直系將領王懷慶為京師衛戍總司令，負責維持北京治安。此後，吳佩孚又力推曹錕時代所任命的顏惠慶復任總理，儘管張作霖希望由自己的兒女親家靳雲鵬組閣，但最終還是妥協了。張作霖致函吳佩孚說：「此事悉由我兄主持，放手去辦，弟毫無成見。」
1926年5月12日，顏惠慶在吳佩孚的支持下依法復職，這是一個以吳佩孚所統率的直系為核心的親西方的內閣，奉系只佔有陸軍總長張景惠和內務總長鄭謙兩席。由於張作霖的反對，顏惠慶復職後僅僅幹了一個月又十天便宣佈下台，改由海軍總長杜錫珪代理內閣總理，杜仍然是吳的人，內閣還是由直系操控。1926年6月26日，張作霖在杜錫珪的邀請下進入北京，28日，吳佩孚也進入北京，張作霖親自到吳佩孚行館拜訪，開口閉口稱吳佩孚為吳二哥，讓吳佩孚十分受用。回想幾年前，張作霖和曹錕在天津會晤時，還十分瞧不起他這個小小師長，不屑於和他會談，如今形勢發生了翻天覆地的變化，志得意滿的吳佩孚準備重新執掌天下了。
然而吳佩孚的好運並沒有維持多久，雖然在1926年的3月至9月這段時間裡是吳佩孚東山再起後最風光的時候，但是這種情況充其量也只是迴光返照而已。他的實力已經今非昔比了。河南一戰雖然僥倖獲勝，更多的則是托了張作霖以及閻錫山的福，他們在北方斷了岳維峻的後路，再加上岳維峻部屬中有很多都是原來直系的人馬，作戰不力或臨陣倒戈情況時有發生，這才讓吳佩孚撿了個便宜。吳佩孚實力不濟蒙得了一時卻蒙不了一世，很快就讓張作霖看了出來。
民國軍閥相爭的年代，一切都是憑實力說話。吳佩孚在兩件事情上讓張作霖看扁了，一件是南口大戰，另一件是國民革命軍北伐。南口大戰初期張作霖對吳佩孚寄予厚望，以為常勝將軍出馬，對付這種殘兵敗卒定然手到擒來，沒想到從4月一直打到7月，整整三個月裡未能前進半步，最後還是靠了張宗昌的直魯聯軍以及張學良的奉軍才將馮玉祥的國民軍擊潰。第二件事是南方國民黨組織的國民革命軍北伐，北伐軍首要對準的目標就是吳佩孚在湖北的地盤，結果僅僅一個月，吳佩孚一戰敗退汀泗橋，二戰敗退賀勝橋，三戰丟了漢口、漢陽，北伐軍幾乎完全控制了湖南、湖北全境，只剩下武昌一所孤城還在堅守。
吳佩孚失敗，對於這個聯直反馮戰略中的盟友，張作霖採取的不是同情而是落井下石的做法。張作霖其實是個蠻講情義的人，但這次在吳佩孚兵敗之時卻對其下黑手，主要原因有兩個，一個是他與吳佩孚本來就是敵非友，只是利益的關係暫時結盟，吳佩孚面臨失敗，其剩下的河南等地盤很有可能被北伐軍攻佔，因此必須先下手為強；第二個原因是張作霖一直想執掌天下，此刻無限接近，因此必須盡快取而代之。1926年9月7日，在張作霖軍事實力的壓制下，杜錫珪內閣致電張作霖歡迎「入京主政」，由吳佩孚任命的北京衛戍總司令王懷慶也同時下台。失去了王懷慶武力的保護，杜內閣隨後也僅僅維持了十來天就被迫辭職。10月1日，由外交總長顧維鈞兼代內閣總理。顧維鈞是個資深外交家，也是一個比較成熟的政治家，他因為吳佩孚的賞識而進入內閣，又因為跟張學良結拜為兄弟而受到奉系支持。因此顧維鈞在這時出任國務總理是上天安排給張作霖最恰當的人選，一方面此人外交能力嫻熟，可以熟練地與各國打交道，爭取外國支持；另一方面吳佩孚也能接受，可以避免直奉過早破裂。
在順利解決北京政權之後，張作霖下一步需要解決的就是吳佩孚直系所佔據的地盤了。張作霖先通過談判的方式，要求吳佩孚交還保定、大名兩地，腹背受敵的吳佩孚只好同意於雙十節前交還。其實所謂交還也只是好聽的說辭，保定、大名兩地論淵源本來就是直系的老巢，只不過後來被奉系李景林佔了，這一次直系又佔了回來，現在奉系大軍壓境，吳佩孚不得不違心地表示要「交還」了。
1926年10月8日，在北伐的國民革命軍第四軍、第八軍和第十五軍的長期圍困下，孤城武昌第三師師長吳俊卿率部投降。10月10日，在吳俊卿接應下武昌失陷，吳佩孚的守城司令、第八師師長劉玉春和湖北督理兼中央第二十五師師長陳嘉謨被擒，主力部隊2萬餘人全數被殲。
吳佩孚在湖北的失敗使其失去了後方根基，在與張作霖的抗衡中已無實力，想跟張作霖合作又沒有多少利用價值。因此，張作霖對吳佩孚的態度急轉直下。1927年2月8日，張作霖以援鄂假道河南為名，分兩路進攻河南，一路由直魯聯軍副司令褚玉璞進攻開封，另一路由張學良、韓麟春以援鄂軍總副司令為名進攻鄭州。奉軍大舉進入河南，大勢已去的吳佩孚各部人心已散，根本未進行認真抵抗就紛紛投降。2月6日吳佩孚得力干將寇英傑即以送母赴津為名脫離直系，張作霖任命其為安國軍第十一方面軍軍團長；2月14日齊燮元通電自己解除討賊軍副司令職務，離開鄭州前往天津；2月16日，河南軍務幫辦米振標投降奉軍，張作霖任命其為安國軍第十八軍軍長兼毅軍總司令，原依附吳佩孚的劉鎮華也轉而投向了奉軍，被任命為安國軍陝甘總司令。就這樣，在南方經過慘烈戰鬥付出重大代價而最終被國民革命軍北伐打敗的吳佩孚，到了北方沒有經過一場像樣的戰鬥就被張作霖瓦解了。要說張作霖還真是吳佩孚的剋星，吳的兩次慘敗都拜張作霖所賜，第一次還能死灰復燃，而第二次雖經多方努力，終至於無力回天。就這樣，這位跟張作霖鬥了近十年的秀才將軍吳佩孚就此煙消雲散，從此徹底淡出了歷史舞台。