既然張作霖在北京做起了「大元帥」，自然就不可能再退守關外，但和戰問題並沒有因此變得迎刃而解——即便北方軍隊來了個大聯合，即便孫傳芳、張宗昌等人都還有幹勁，軍事力量上北不如南，卻早已成為一個不爭的事實。如果國民革命軍再次興師北伐，奉系還能不能繼續在關內站住腳就很成問題了。
為此，張作霖在「登基」的頭幾天，就開始派楊宇霆和南方代表方本仁、閻錫山代表南桂馨在帥府進行停戰談判，在一些問題上也打算進行退讓。
張氏父子及屬下對於國共的思想向來都非常隔膜。還在孫中山在世的時候，張作霖、孫中山、段祺瑞搞「三角反直聯盟」，南方特使伍朝樞來東北進行聯絡和考察，有一天他突然用一種很嚴肅的態度和語氣對接待他的何柱國說：「你們奉軍的官兵信仰不信仰三民主義？」何柱國不假思索地答道：「我們奉軍官兵只有少帥等極少數人知道一些三民主義，信仰二字是談不到的。」事後何柱國就此向張學良進行了報告，張學良滿不在乎地說：「天下是馬上打下來的，主義有什麼用？人家有人家的一套，主義不主義，不相干，各照各的幹。」
張學良雖不信仰三民主義，但至少知道一些，張作霖原來是根本不知道，後來聽別人講，才多少瞭解了一點，至於當時剛剛興起的共產黨學說，則接觸得更晚。從骨子裡，他對這些都很排斥，一律視之為「赤」，說：「現在有人鬧什麼革命（指李大釗等），想把俄大鼻子那一套拿中國來，叫什麼共產共妻啦。你們大家想一想，什麼都可以共，個人的老婆孩子也可以共嗎？」
他的部下張宗昌挺能湊趣，以後對所謂「共產共妻」進行了更加令人哭笑不得的解讀：「共產黨共產共妻，共妻當然是好的，共產就不對，東西能拿來的才是你的，不能拿來的就不是你的。共妻不一樣，你睡不到的女人和別人睡就沒錯。」
為了跟國民黨講和，張作霖一度同意「信仰三民主義」（當然這只是一種形式，真信假信，彼此都不管），但決不易幟。不過到就任大元帥時，他又突然改變初衷，允許在居仁堂正門的新華門上懸掛了青天白日旗。在通電中，張作霖還表示，他與已故的孫中山是多年老友，宗旨相同，「凡中山同志，不違背三民主義者，一律為友」。
可是南方的最後一個條件還是把張作霖給難住了，那就是將安國軍改為國民革命軍，這表示國民黨統一了中國，他老張從此得給國民黨打工了。
張作霖不同意改軍制，新華門的青天白日旗便只好降了下來。此時寧漢分裂，南方革命政府實際分化為了南京、武漢兩個政府，代表南京政府的是蔣介石，為了與武漢政府相抗衡，蔣介石急於和張作霖達成協議。見談判陷入僵局，他忙派何成浚為代表再赴北方，準備與張作霖、閻錫山協商成立一個純軍事上的三角同盟。
對於蔣介石的新提議，張作霖是完全能夠接受的，因為這對他很有利：馮玉祥遠在西北邊陲，三角同盟一成立，東北軍便只需對付遠道而來的武漢北伐軍，從力量上看應該綽綽有餘。
讓人料想不到的是，就在三方都產生相關意向的時候，蔣介石卻自身難保，在新桂系李宗仁、白崇禧的「逼宮」下被迫辭職下野。蔣介石是三角同盟的主導，隨著他被從南京政府中踢出，結成同盟的線索也就被切斷了。
不能和，就要戰。繼張學良、韓麟春敗於河南，孫傳芳、張宗昌在津浦線上也相繼潰敗，不得不退守山東。日本政府一直密切關注著中國國內軍事形勢的發展，意識到東北軍已難以阻止北伐軍的挺進，國民黨佔領北京也只是時間問題，田中在外相官邸連續召開會議進行商討，史稱「東方會議」。
在出席東方會議的官員中，外務次官森恪是中心人物。由於田中的外相是兼任，所以森恪是事實上的外相，也是田中「積極外交」的主要幕後策劃者。除了「積極外交」外，森恪還為田中構思了一個新的對華政策，名為「滿蒙內離政策」，其主旨是把中國的政治力量一分為二，以蔣介石的國民黨統治關內，用於「遏制共產主義」，以張作霖的奉系統治關外，用於「保境安民」。
東方會議沒有離開「滿蒙內離政策」的基調。與會者認為，蔣介石既已宣佈分共，就可以利用他來「遏制共產主義」，但國民黨以反帝為口號，如果讓他統一中國，對日本又是不利的，因此哪怕出動武力，也至少要把北伐軍阻止在華北。至於張作霖和奉系，眾人預計，就算日方不做安排，只要北伐再次啟動，東北軍也一定會「使用逃回關外這最後一招」——張作霖爭霸中原多次，每次不利時，就會用這一招，而他的政敵也很難奈何得了他，因為張作霖「像螃蟹鑽入洞穴一樣，一旦鑽進洞穴，就很難抓到」。