張學良的副官站在門廳裡，隔著窗戶靜聽父子倆爭吵，激辯中，張作霖的嗓門特別大，而且越來越大：「我們兵工廠庫房有二三十萬條好槍，有一千多門迫擊炮，還有山炮、重炮、加農炮，北伐軍天上沒有飛機下蛋，地下沒有四條腿的騎兵，我怎麼就不能統一中國？你小六子帶領幾十萬大軍不打仗，跑到我面前要撤兵。我一輩子沒打過敗仗，我不撤！」
張學良也早就準備了一盆澆頭的冰水：「兒子哪有欺騙爸爸的，咱們東北軍統一不了中國是真話！咱們只有幾十萬軍隊，現在過了黃河，再打就過了長江了。孤軍深入是兵家大忌，後邊沒有預備隊和援軍。馮玉祥、閻錫山要是抄了咱們的退路，再想撤也撤不回來了。」
他還不忘提醒張作霖：「中國打內戰，日本最高興，日本對各方都支持，這是鷸蚌相爭，漁翁得利！」意思是在馮閻抄東北軍退路的同時，日本也可能會乘東北軍主力入關，關外空虛之機，趁機搶佔東三省，從而令東北軍有家難歸。
張作霖沒有被嚇住，在他看來，馮、閻是手下敗將，日本人也沒什麼可怕的：「我就是不怕日本鬼子！」他估計南滿路的關東軍頂多也只有一萬三千多人，一旦想打這群「日本鬼子」，只要先召集南滿路沿線各縣縣長、公安局長開個會，定個日期，一夜之間就可以把南滿路的鐵軌都扒了，「拉走埋在地下」。然後再出動三十萬東北軍，重兵佔領旅、大，「一萬多日本鬼子不就交待了？咱怕日本鬼子幹嗎呢！」
張學良費盡半天唇舌，張作霖仍不為所動。見談話沒有結果，天色已經不早，張學良只得先退出居仁堂回去休息。
第二天傍晚，張學良再次前來勸說父親撤兵。張作霖有一股倔強不服輸的性格，你越說他怎麼不行，他可能越要堅持，知父莫如子，所以這次張學良沒有跟他辯論能不能統一中國的問題，而是改換策略，用了另一種說法：「蔣介石、閻錫山、馮玉祥不都是中國人嘛，都是中國人，地盤也是中國的，誰占的多點兒，誰占的少點兒，有什麼關係？他怎麼占，不還是中國人占中國地嘛！」
對於張學良的這些話，張作霖倒是挺能聽得進去，和吳佩孚、曹錕、段祺瑞等北洋政要一樣，對於內爭外斗之間的區別，他分得非常清楚。
張學良告訴張作霖，如果他執意不肯撤兵，極可能與他的願望和初衷相反：「咱東北要是丟了，就不是中國人佔了，而是日本人佔了，那就成了千古罪人，咱就要當亡國奴了！東北要是丟了，咱們就沒有立錐之地了！現在，東北軍都在關內，東北唱空城計了，不撤不行！」
張作霖聽了大為動容。事到如今，他又豈能真的看不清局勢，不過是不願意承認現實罷了，更何況，他雖然不怕與日本人干仗，但那畢竟是不得已而為之，乃最後才能採取的下策。
「好，咱們撤！東北的高粱米子兒我還沒吃夠呢，北京的大米飯我可吃夠了。現在就是請我在北京當大總統我也不當了，我什麼也不當了，我回東北去！」
就在張作霖下決心息兵罷戰，退出關外的時候，1928年4月19日，田中內閣突然以「就地保護僑民」為由，下令出兵山東，日軍隨即侵入濟南。蔣介石急於北伐，既對日軍的武裝行動缺乏警覺，又隨時準備與日軍講和，致使北伐軍在衝突中極為被動，從而釀成了「濟南慘案」。
日軍製造「濟南慘案」，往深裡說，其實就是為了落實東方會議的既定方針，即阻止蔣軍北上，並盡可能將國民黨的勢力範圍限制在南方。這對張作霖維持其北京政權當然是有幫助的，看到北伐軍因受日軍阻撓而暫時停止不前，張作霖也重新燃起了希望，他派人到南京遊說，希望雙方停戰言和，同時准許他「同參政事」，一致對外。
當時的南京政府主要由譚延闓、李烈鈞、蔡元培三位大員當家，蔡元培不常來政府辦公，譚延闓、李烈鈞都主張接納張作霖講和，這樣就形成了一份名為「請准許張作霖同參政事案」，譚延闓、李烈鈞以及軍方在寧代表都在上面簽了字。
本來這份提案是有可能通過的，但是在即將開會討論前，有新聞記者把消息提前洩露給了蔡元培。蔡元培得知譚、李在他缺席的情況，就想趁機通過提案，不由大為光火，當即跑去問譚、李：「是誰主張准許張作霖參政的？我們革命政府，難道從此不革命了嗎？」蔡元培為人耿直，有威信，譚、李都有幾分怕他，於是提案只能宣告壽終正寢。
其實譚、李、蔡都不過是毫無實權的政客，真正能夠做主的還是前線的幾位軍方大佬。在蔣介石、馮玉祥聯合召開的緊急會議上，蔣介石同意放棄北進，與張作霖劃江而治，但遭到馮玉祥的堅決反對，最後會議決定繞開濟南城，繼續向北推進。