1924年11月15日，按照天津會議的決定，張作霖、馮玉祥等人發出通電，擁戴段祺瑞出任中華民國臨時執政。
擁戴電文一出，各省皆通電響應。北方直奉兩系自不待言，由於段祺瑞不再堅持武力統一，而轉向與馮國璋相似的「調和統一」政策，長江流域的直系方面，甚至包括西南方面也都不再反對段氏登台。段祺瑞如願以償地成為各省一致擁戴的中心人物。
段祺瑞即將擔任執政一事，在讓段派歡欣鼓舞的同時，還順便讓段祺瑞曾經的「靈魂」擺脫了困境。原來江浙戰爭爆發時，徐樹錚一直協助盧永祥作戰，無奈寡不敵眾——蘇、皖、贛、閩四省的直軍本來就已經很多，後來山東、河南、湖北的直軍又源源南下增援，浙滬軍孤懸華東一隅，不久就敗下陣來。
兵敗之後，盧永祥由上海乘輪船逃往日本，一部分浙軍殘部由徐樹錚安排，撤至上海閘北。徐樹錚為了鼓舞部隊的士氣，帶著一筆錢，同上海大亨杜月笙等人一道前去慰問。慰問結束，在返回位於公共租界的家中時，聞訊趕來的巡捕房攔車進行檢查。當時車上還有一大袋地圖，巡捕房即以在租界內從事軍事活動，危害租界治安為由予以逮捕，被拘捕的還有同車的杜月笙等人。
杜月笙等很快就被取保釋放，徐樹錚被羈押了一天一夜，經疏通方得以取保回家，但仍被巡捕房派人監視居住。
徐樹錚不怕被租界拘留或監視，他怕就怕被引渡給直系，為此，他提出願意出國遊歷，以換取租界將其釋放。
一百八十度的大轉彎
在徐樹錚被監視居住期間，一名日本駐上海的中佐武官不知道是不是也跟天津的那個小野寺一樣，屬於徐樹錚的「鐵粉」。他主動找到徐樹錚的朋友，共同商議營救徐樹錚的辦法。當時日本人出入徐宅可以不受限制，這名武官提出，可以先讓徐樹錚化裝成日本人，然後自己再進入徐宅把他帶出來。
朋友如實向徐樹錚轉達了日本武官的計劃。徐樹錚說這些雞鳴狗盜的事，我不幹了，也不想再同日本人瞎胡鬧，我決計出國，其他什麼都不想。
通過這幾天的閉門靜思，徐樹錚把先前從政的經驗教訓都重新過濾了一遍。在他看來，「老總」（段祺瑞）幾次當國，對於外交方面都過分地依賴日本，光講「中日親善」，在其身邊的日本通如曹汝霖、王揖唐等人也數不勝數，而接近英美的卻沒有幾個人。
徐樹錚還清楚地記得，有一次英國人來拜訪段祺瑞，急切間找不到懂英語的人。他剛好在那裡，雖然對英語不精，但也能應付一二，這才化解了尷尬。
段祺瑞在下台之前，皖系實力那麼強盛，為什麼反而還會敗於直系之手？徐樹錚認為與外交政策有很大關係，由於外交政策所出現的偏差，導致直系得到英美的支持，政治聲譽上升；而段派和皖系卻被對日借款等問題所連累，一再受到社會輿論的抨擊。他對朋友說：「一意拉攏日本，其他列強尤其是英美當然眼紅，所以直系的曹、吳便成為奇貨可居了。我們這次所受的挫折和侮辱不就是明證嗎？」
徐樹錚苦思之後得出結論：處在新的國際局勢之下，要想搞政治就要竭力多爭取日本以外的其他國家。他這次就準備趁機會去趟歐洲，認真瞭解一下歐美國家的政治經濟以及軍事情況，有機會還要和各國的政治家加強接觸，以便對「將來老總出山」能夠有所幫助。
獲得租界當局的許可後，徐樹錚搭乘外輪離開了上海。外輪中途需要在香港暫停，香港總督府得知徐樹錚在船上，怕得罪直系，因此早早就派人在碼頭守候並聲明拒絕徐樹錚上岸。
就在徐樹錚窘迫萬狀、不知所措的時候，到了下午，香港總督府的態度突然又來了個一百八十度的大轉彎，他們派員持請柬登船，邀請徐樹錚到總督府參加當天的晚宴。
總督府所以前倨後恭，就是因為收到了英國駐華公使從北京發來的電報：段祺瑞已被擁戴為中華民國臨時執政！
獲知徐樹錚正在香港，按照段祺瑞的本意，是不想讓他出國的，但徐樹錚決心已定，於是段祺瑞就委派他為歐美考察專使，讓他名正言順地踏上了出國考察之旅。
徐樹錚的出國，雖然使重新組成的段幕少了一位中堅分子，但一位能人的新近加入，多少彌補了這一缺憾，此人就是建議段祺瑞實施「調和統一」的章士釗。章士釗因能文善思，早已蜚聲南北，而且他這時的政治見解和理想已完全為段祺瑞所接受，二人再次見面，可謂一見傾心。
進入組閣和構建班底階段，段祺瑞在天津本宅設立了辦事處，任命章士釗為秘書長，讓他和長子段宏業共同負責處理相關事務以及接待八方來客。
自段出山的消息傳出後，辦事處門前即冠蓋如雲，來此奔走的政客人山人海，絡繹不絕。段祺瑞上了年紀，吃不消喧鬧糾纏，便深居樓上，樓下則由章士釗和段宏業負責接待，無論何方人物，必須經二人同意，才能上樓晉見段祺瑞。
章士釗深感段祺瑞的知遇之恩，辦事非常盡心盡力。為了能夠隨時與段祺瑞商討有關問題，應付各方面的關係，他乾脆搬到段宅，住在樓下，晚上就與段宏業共宿一榻。
在徐樹錚缺席的情況下，章士釗部分代替了他的角色，成為段祺瑞新的軍師。不用大總統或大元帥，而以「臨時執政」的名義主政，即為章士釗的主張。之所以要採用這一制度設計，主要還是吸取了以往「府院之爭」迭起的教訓，於是索性將總統、總理的權力合二為一，全部收歸「臨時執政」所有。
章士釗被段祺瑞採納的另一個建議，是查辦參與賄選的國會議員。查辦名聲已經臭到家的「豬仔議員」名正言順，不會遇到什麼阻力，同時由於原國會議員大部分都參與了賄選，剩下的拒賄議員不足法定人數，無法開會，這樣就可以使「臨時執政」在理政時不至於受到國會的過多牽制。
在認為準備就緒之後，段祺瑞決定啟程進京。1924年11月24日，他與作為臨時過渡性質的攝政內閣完成交接，正式在京就任臨時執政。
現實是殘酷的
有章士釗所做的前期設計和鋪墊，乍看起來，臨時執政似乎已經具有了可以不受任何方面掣肘的大權，完全能夠按照自己的設想大幹一番。段祺瑞也曾雄心勃勃地對幕僚們表示，自己將對政府做「根本改革」：政府用人將重才而不重黨閥派系，外交取獨立態度，財政要治本，不借外債。總之，就是要使國內實現不分派系的大統一，國際上則不再依賴於任何列強。
然而設想是美好的，現實卻是殘酷的。經歷直皖戰爭和江浙戰爭，皖系的軍事實力已喪失殆盡，「最後的堡壘」盧永祥也成了無兵無勇之人，段祺瑞所能依恃的僅為一批文人政客和官員，可以說是「手無寸鐵」。
沒有本系實力作為後盾，就算是有再精妙的制度設計，也無法按個人意志行使權力。最早讓段祺瑞體會到這一點的，是對章士釗的任用。作為段幕現階段的首席幕僚，章士釗在天津時即為段祺瑞的秘書長，到京後，段祺瑞已內定他為執政府秘書長。豈料張作霖力薦段祺瑞的另一個幕僚梁鴻志出任該職，段祺瑞拗他不過，只好改委章士釗為司法總長。雖說章士釗精通法律，當司法總長也算是專業對口，但畢竟非原來所願。
不僅張作霖對中央事務有插手欲，馮玉祥也同樣不遑多讓。就在段祺瑞抵京的當天，馮玉祥對他手下的重要將領說：「段已到京，張雨亭（張作霖的字）再到京，即是段、張、馮三大頭，若說不干涉政事是不可能的，就是段大元帥（『國民軍大元帥』，用以指段）出山，也是個木頭人。」
當時的報紙什麼都敢登。北京報紙就刊登了一幅漫畫，在圖上的三桿步槍交叉架上，有一頂寫著「臨時執政」字樣的軍帽，意思就是說段祺瑞是由馮、奉、直三大軍事勢力捧上台的，他不但不能得罪馮玉祥、張作霖，連長江各省直系的臉色也要看。
面對尷尬的處境，段祺瑞的部下幕僚們開始從最初的興奮中清醒過來。某日，段祺瑞與曾毓雋談論局勢，曾毓雋表現得情緒悲觀，他認為段祺瑞能夠上台執政，只是因為推翻曹、吳後群龍無首，馮玉祥、張作霖拿他作為「暫時之馬首」，並非真心擁護，而且馮、張也是暫時互相利用對方，必定難以長久合作。
段祺瑞見狀說：「雲沛（曾毓雋的字），你不應當對國家事採取如此消極的態度。」
曾毓雋說他並非消極，而是覺得擔心，感到「老總」在如此形勢下急於上台，好比是一張兩條腿的桌子，一推便倒。
段祺瑞也沒想到入京之後所遇到的困難會這麼大，但他素來不以困難為懼，想想青少年時代靠「一塊錢起家」，動輒徒步跋涉千里，現在再難，會比那時候更難嗎？
正好手裡拿著一隻茶杯，段祺瑞就當場以茶杯為喻：「此杯固是鋸合而成者。我握之掌中，可暫不碎，若我放手，便落地碎矣。」
看到老段仍以「救世主」般的心態在做事，曾毓雋忍不住脫口而出：「杯不由我碎，待碎時由我全之，則反易耳。」
段祺瑞畢竟早已不是一個靠熱血和青春闖蕩江湖的少年，他不能不承認曾毓雋說的是對的，也就是說，他作為名義上的國家元首，不但要面對重重困難，還要承擔隨時可能「杯碎」的責任，而他實際上根本沒有能力保證「茶杯」不「落地碎矣」。
這麼一想，真不如冷眼旁觀，然後從容收拾時局來得輕省便宜啊！可是開弓沒有回頭箭，以前做總理時，還能跟總統耍耍性子、撂撂挑子，現在總不能自己掛冠跑回天津去吧。
遲疑半晌，段祺瑞對曾毓雋說：「你說得很對，那麼你的意思是怎樣呢？」
段祺瑞是想問曾毓雋有何補救之策。曾毓雋的建議是加強與南方的合作。當時的南方勢力之中，除西南的滇唐（唐繼堯）、蜀劉（劉湘）外，就數東南的孫中山聲勢最大，同時段、孫又曾同為反直三角同盟，因此曾毓雋建議段祺瑞迎孫中山北上，與之共商國是。
以段祺瑞之老到，並非不知孫氏之潛力。在與孫結成同盟時，他就曾評價說：「中山可稱中國之絕色人物，確守一定主張，始終不渝，此余所以深悅與之攜手也。」
後來曹、吳敗走，有人主張開國三大元老同時入京，開國是會議。所謂開國三大元老，孫中山、段祺瑞、黎元洪是也。段祺瑞當時也接受了這一建議，並向馮玉祥解釋：「中山西南領袖，吾們與雨亭（張作霖）偏向北方，故統一西南事，應徵取中山意見，吾遲遲入京以此。」
曾毓雋說段祺瑞「急於上台」，其實是指他沒有能夠堅持這一主張，把聯孫進行到底——在被擁戴將成為臨時執政後，為了進一步取得長江各省的支持，段祺瑞在事先未與孫中山商量的情況下，就單方面發佈了宣佈政見的「馬電」，令孫中山大為不滿。
接著，梁鴻志、段宏業等人又慫恿段祺瑞先入京，並且說：「先入關者王，主人也；中山後至，賓也，何必候孫？」段祺瑞聽信了他們的話，放棄等待孫中山，先一步到京就職，這就意味著段祺瑞一人執政之局替代了「三元老方案」。孫中山當時已即將抵達上海，聽到這一消息後，只好繞道日本，推遲入京。
話不投機
對曾毓雋重提的聯孫話題，段祺瑞深以為然，遂再次派人敦請孫中山早日入京。1924年12月31日，已在途中身染重病的孫中山應邀扶病入京。第二天，段祺瑞在北京召開善後會議，同時電邀孫中山、黎元洪以及在京的國民黨人參加。
按照「三元老方案」，應該是先開國是會議，再討論就職，現在段祺瑞卻是以執政的身份主持會議，而且孫中山隨後對會議所提出的修改意見，也未被段祺瑞所接受。孫中山對此表示強烈不滿，除他自己拒絕與會外，同時命令國民黨人一律不參加會議。黎元洪和西南要人也都以拒絕與會作為抵制。
因為到會人數不足，善後會議被迫拖了兩周時間才召開第一次正式會議。雖然段祺瑞的執政地位通過這次會議獲得了法律依據，但他的兩大願望都落空了，既不能與國民黨順利合作，也無法取得西南諸侯的支持。
拋去西南方面不談，孫、段其實從根子上就無法融合。孫中山是革命領袖，他的那套三民主義及其三大政策，與整個北洋系都格格不入。段祺瑞作為北洋領袖，本身就自有一套，當然更無法接受和吸收孫中山所提出的東西。
自孫、段以下，情形也是如此：一般段派人員基於南北成見，對國民黨人不能推誠相見，而國民黨人對段政府同樣猜疑加指責，始終不能信任。
隨孫中山一同進京的汪精衛曾到段公館與段祺瑞見面，但卻話不投機，越說越擰。雙方不但不能解決任何問題，還弄得很不痛快。
也許求同存異的唯一辦法，就是雙方領袖能夠坐下來面對面地認真地談一談，但自孫中山到京後，孫、段始終未能正式會晤。某次，有人問隨孫中山一同進京的汪精衛：「先生（孫中山）北來，老段有沒有拜會過先生？」汪精衛回答：「這個契弟（汪的口頭禪，用以指代他所不喜歡的人）怎會來看先生的！」
其實汪精衛說的並不是真話。自孫中山來京後，段祺瑞曾多次要親訪孫中山，以交流意見，但都被汪精衛等人擋駕。國民黨人倒也不是故意要為難老段，而是在京名醫在對孫中山的病情進行會診後，一致認為病人應完全靜養，嚴禁會客。平時能夠與孫中山見面的僅汪精衛、孫夫人宋慶齡等少數人，連許多國民黨元老都被迫打消了同孫中山會面的念頭。
1925年3月12日，孫中山病逝於北京。雖然政見不合，但段祺瑞總體來說對孫中山是尊重的，當孫中山逝世的消息傳來時，他正在出席國務會議，聽聞後立即宣佈散會，除派人到孫中山行轅弔唁外，還批准內務部所議，對孫中山採用國葬的方式下葬。
反而在京的國民黨中執委認為在廣東有己方的政府，不能承認北京政府所做的決定，因而拒絕國葬，只同意採用國民葬禮。
到了孫中山發喪公祭的日子，根據原定安排，段祺瑞本來要親臨弔奠，他也已經穿好大禮服，準備登車前往。這時京師警察總監朱深來段公館報告，說他剛剛由設祭的中央公園趕來，並且說他已偵聽到，國民黨人將在段祺瑞設祭時施以非常手段。
曾毓雋正好也在段祺瑞身邊，他不相信朱深所說，認為太過離奇，不足為信。朱深賭咒發誓他所說的都是事實，乃至於聲淚俱下。其他人見狀都站到了朱深一邊——且不說朱深吃的是警察飯，沒有確鑿證據，不會在這麼重要的事情上撒謊。即從早期國民黨人的處事風格來看，刺殺乃其家常便飯，未必就不會有國民黨人因孫氏的去世而遷怒於段，從而做出極端之事。
當然，也很有可能朱深只是神經過敏。可是試問，段祺瑞若真的去主祭，誰能確保他絕對安全？誰都不能，曾毓雋亦不例外。
段祺瑞患足痛症已有四五年之久，嚴重時，即便用大量的麻醉劑也無法減輕疼痛，必須將兩腳放在裝滿冷水甚至冰水的桶內泡上半個小時，方可減輕疼痛。當是與段比較熟悉的軍政界人士經常看到的一幕。
就在公祭前兩天，段祺瑞又正好足痛症發作，於是他便以腿腳腫脹，不能穿鞋為由，臨時改派內務總長龔心湛主祭。汪精衛、李烈鈞等國民黨人本就對段政府心存種種誤會，見此情景，更令他們大發雷霆，認為段祺瑞是有意托故不來參加。李烈鈞公開大罵段祺瑞，說是「死總理嚇倒了活執政」，前來主祭的龔心湛也被禁止從中路進入靈堂。
段祺瑞失去了與國民黨恢復情感聯繫的最後一次機會。至此，段政府與國民黨的關係完全破裂，國民黨表示堅決不會再與段合作。與之相應，廣東國民黨政府決定仍由胡漢民代行大元帥職權，繼續為北伐進行準備。
金法郎案
在無法與國民黨合作的前提下，段祺瑞不得不獨自與張作霖、馮玉祥周旋。儘管他沒有什麼自己的力量，看似高居朝堂之上，其實只相當於中國古代歷史上的周天子、漢獻帝，但他本人卻決不以此自居，一旦進入執政的角色，仍然堅持按自己的想法辦事，甚至遇到與張、馮相牴觸的地方，也照舊敢於函電相責。
在段祺瑞的心目中，張作霖是鬍子出身，馮玉祥在他做統制時還是一名小兵，這二人雖然手下兵多將廣、勢力強大，但要坐下來跟他談治國理政，都還差得遠哩！
與每一次上台執政一樣，段祺瑞首先要解決的仍然是錢的問題。當時各省稅收盡為地方截留，分文不上繳中央，就算是中央政府名義上可以過問的京畿地區，有油水的地方也盡為馮、奉兩軍所得，而這兩軍還要反過來向中央索取軍餉，其中尤以奉軍索取最急。
段祺瑞在召開善後會議時曾提出財政案，希望通過立法使地方能分一杯羹給中央，但因遭到各省代表的反對而被迫擱置。此時，中國因參加「一戰」而得以停付庚子賠款的「紅利」早已結束，中央得到的關稅、鹽稅在償還庚子賠款後便無餘款，而軍政及教育等各項費用卻都積欠頗多。
過去段政府用於緩解類似危機的主要辦法是對日借款，可是現在這一套路已經不靈了——「西原借款」除第一筆外，全都本利無歸，日本政府在不得已的情況下，只好發行債券歸還銀行。同時，寺內在任時所謂的「中日親善」也沒能實現，反日浪潮在中國國內呈風起雲湧之勢。日本國內輿論認為寺內內閣是賠了夫人又折兵，對此大為不滿。
雖然段祺瑞執政後親自寫信給時任日本首相田中義一，希望日本繼續給予經濟援助，但田中為免重蹈「西原借款」的覆轍而遭受本國輿論的攻擊，對段祺瑞的這封信始終未予答覆。
眼見北京政府的財政瀕臨絕境，段祺瑞不能不寄望於加快解決「金法郎案」（當時也稱金佛郎案）。金法郎案是法國提出的一種還款辦法。中國原來都是以法郎向法國償還賠款，但是一戰後，法國金融混亂，發生了通貨膨脹，法郎跌價嚴重，已不能維持其票面價格。
法國政府認為，如果還按老辦法還款，他們吃虧了，於是便希望中國在還款時以「金法郎」代替貶值的法郎。所謂「金法郎」並不是實有貨幣，只是確保法郎不貶值的一種虛擬貨幣。
法國是庚子賠款的大戶，約占總數的百分之十五。如果中國政府按照金法郎計算還款，須多付整整八千多萬元！這當然是中國所不情願的。
西方人談判時，習慣胡蘿蔔與大棒一道上，在提出金法郎案的同時，法國表示可以將部分還款退還中國，其中一部分用於中法合辦教育及慈善事業，另一部分用於恢復一戰期間倒閉的中法實業銀行。後面這家銀行曾吸收了中國的大量私人存款，如果恢復，歷年存款自然就可以兌現了。
由於很多政府要員都在中法實業銀行有存款，所以歷屆政府中都有人為此奔走說項。1922年7月，由曹、吳控制的北京政府以照會回復法國公使，表示贊同金法郎案。消息傳出，遭到舉國一致反對，在輿論壓力下，北京政府只得決議否認以金法郎償付賠償款。
你這邊否認了不要緊，那邊卻已答應人家了。這關係到國際信用問題，而在國際社會中，信用問題通常又非常重要，乃是國與國交往的第一法則。徐樹錚在自己所著的《建國銓真·邦交章》中曾寫道：「抱信者，事可許人，許之，勿待苛求。不可許，至死勿許也……」
覺得不能贊同對方的提議，便死也不要答應；一旦答應了，則最好不要中途反悔，否則就得承擔相應的後果。法國認為中國出爾反爾，遂通過總稅務司、英國人安格聯，按金法郎所應折算的賠款數，將1922年12月1日以後的中國關余、鹽餘（即關稅、鹽稅扣除庚子賠款後的所餘款項）盡數扣留，不准中國政府提用。
除此之外，法國還以批准「九國公約」作為交換條件，聲明若中國一天不批准金法郎案，他們就一天不批准相關協定。
到1923年上半年，曹錕希望能夠退回被安格聯扣留的款項，遂打算依照法國要求解決金法郎案，結果引起國內輿論鼎沸。北京政府不敢觸犯眾怒，金法郎案遂再次成為懸案。
段祺瑞在天津時也曾以在野身份通電反對金法郎案，但等他上台，解決金法郎案已成了執政府擺脫困境的唯一途徑。他對財政總長李思浩說：「你如再不辦（金法郎案），連執政府的日常開支也沒法應付了。」
我一定要做
同樣是解決金法郎案，曹錕時代僅僅為了用於救急，至於佣金損失如何，債權債務關係怎樣，都未仔細考慮。李思浩領銜的財政部則專門成立了「金法郎案研究委員會」，把有關該案的一切文卷、資料都調齊了。委員會悉心研究修訂解決大綱，對所有細節問題都進行了認真推敲。過後，解決大綱又被送交司法部逐條審查，以確定沒有違法之處。
專家們認為，雖然改用金法郎賠款之後，國家要遭受一定損失，但法國已決定將其中的部分退款退還中國，這樣一算，損失並不是太大。最重要的還是從長遠來看，中方得大於失。在曹錕時代，關稅問題因時機未至尚談不到，而臨時執政政府在成立伊始，各國外交使團就已同意中國提前召開關稅會議，只等法國批准「九國公約」。換句話說，一俟法國鬆口，中方即可提高海關附加稅，乃「虛損而收實利」。
當時正在法國考察的徐樹錚根據自己的認識，也認為解決金法郎案恰在其時，遂連續發電報給段祺瑞和李思浩，極力主張速辦。
這些都成為段祺瑞敢於頂著反對聲浪辦理懸案，並把自己與曹錕劃分開來的重要依據。
一切手續都弄好了，就剩下身為財政總長的李思浩簽署交辦了。段祺瑞連發七道手諭加以催促，但李思浩那邊一直都沒有什麼動靜，為此，段祺瑞找到李思浩，聲色俱厲地對他說：「你是怎麼回事，老把金佛郎案拖著不辦？」
李思浩回答：「執政一定瞭解這件事辦了以後的後果。思浩身敗名裂，乃至送掉性命，毫不足惜，但今天有不少人正找機會要為難中央、為難執政。因此，不能不再三考慮。」
段祺瑞聽了，這才稍稍收起怒容，但還是嚴肅地對李思浩說：「你我相交多年，你還沒有摸著我的脾氣？我這個人，不是那麼患得患失的。我一定要做（這件事），不要說因此丟了官、丟了地位在所不惜，就是送了性命，我也是不顧的。有我負責，你快去辦吧！」
與李思浩談過之後，段祺瑞仍不放心，他召來曾毓雋說：「你去問贊侯（李思浩的字），他對金佛郎案敢辦不敢辦。他若不敢辦，我叫別人辦或你來辦。」曾毓雋趕緊安慰道：「老總不要急，我明天和贊侯研究研究。」
第二天，曾毓雋往訪李思浩。得知來意，李思浩不禁訴起了苦：「不是我不敢辦，而是此案相當複雜，牽連面較廣，不能不周密考慮和多方聯繫。請四哥（指曾毓雋）幫我辦好嗎？」曾毓雋說：「只要力所能及，我一定協助。」
直系北京政府兩次向法方表示贊同金法郎案，又兩次反悔，如今再與法方交涉，細節方面的操作就比原來更複雜，而且很容易節外生枝。李思浩瞭解到國民黨人李石曾和法國政府關係較深，同時也是解決金法郎案的支持者，便想請李石曾出面協助他與法國公使溝通。
李思浩和李石曾不太熟，乘此機會，他問曾毓雋能否代為聯繫。曾毓雋痛快地答應下來。
曾毓雋其實和李石曾也不熟。經過打聽，李石曾在民初時曾患傷寒，中西醫皆束手無策，後請來京城名醫陸仲安才得以妙手回春，李、陸由此來往甚密。恰好曾毓雋與陸仲安早就相識，經陸仲安介紹，曾毓雋見到李石曾，二人晤談多次，李石曾欣然同意相助。有李石曾從旁協助，李思浩迅速與法方談妥了雙方的操作細節。
對內方面，由於國會已無形解散，倒不用顧慮了，壓力主要還是來自輿論界特別是上海輿論界的反對。當時正好上海商會會長虞洽卿來京有事相求於李思浩，李思浩就利用他在上海的關係，托其進行疏通。經虞洽卿打過招呼之後，上海輿論界的反對聲音果然減弱了不少。
1925年4月12日，中國外交部與法國公使完成簽字、換文手續，從而達成了解決金法郎案的中法協定。
雖然此案一公佈，段祺瑞執政府就再次成為眾矢之的，被輿論特別是在野黨口誅筆伐，但實事求是地說，處於眾目睽睽之下的執政府對解決金法郎案還是十分慎重的，段派自段祺瑞、李思浩以下，也無一人敢於從此案中妄取分文。
得意之筆
當年7月，法國政府批准「九國公約」，中國召開關稅特別會議的障礙至此得以解除。此前中國的關稅是簽訂「辛丑條約」時所定，稅率為值百抽五，這麼低的稅率不僅史無前例，而且為世界各國所未有，本身就帶有如庚子賠款一樣的侮辱和懲罰性質。
中國參加「一戰」並成為戰勝國後，中方代表在華盛頓會議上提出了關稅自主問題，理由是戰敗國尚無協定關稅特例，中國是戰勝國，更不應受此約束。各國代表無詞可駁，於是決定在「九國公約」生效後，中國可召集各國來參加關稅特別會議。
如果說金法郎案背後是一片叫罵之聲，關稅會議在國內贏來的則多為叫好聲和掌聲，但國際輿論普遍都認為，沒有金法郎案就沒有關稅會議，關稅會議正是執政府解決金法郎案所換來的結果。在段祺瑞本人，則把解決金法郎案和召開關稅會議作為自己政治生涯中的得意之筆，始終全力以赴。
在關稅會議籌備期間，有一天段祺瑞在和曾毓雋談及一些有關會議的主要問題時，曾毓雋不無憂慮地說道：「關稅會議各國未必能順利通過，即使如願以償，內部糾紛勢必甚於今日。」
段祺瑞甚為驚訝，立刻問他：「何以見得？」
討論自主關稅，必然涉及近代中國一個很特殊的稅收制度，即釐金制度。釐金最早產生於清末鎮壓太平天國運動時期，當時是為籌集兵餉所臨時設置，後來便成了一種新稅種。這是一種非常雜亂、無法度可守的稅制，而且從清末開始，其中的很大一部分就為地方所自由處置，被認為是地方擅專和割據的經濟基礎。
各國要求中國將裁撤釐金與海關加稅同時進行，即「裁厘加稅」。曾毓雋所提到的「內部糾紛」就跟裁撤釐金有關，他對段祺瑞說：「大家一向所爭的是地盤，不完全集矢於中央，一旦決定裁厘加稅，各地在爭權奪利時，勢必把矛頭全部集中在老總一人身上。」
段祺瑞聽了毫不猶豫地答道：「我以國家利益為前提，內部糾紛可由內部解決。」
段祺瑞對關稅會議寄予了無限期望，他認為開幕式關係到國家主權和財政稅收，因此決定親自出席，以示重視。為了聽取各國代表的發言內容，他需要配備一個會多國語言的翻譯。這種人才在國內非常稀缺，段祺瑞想到了被喻為「清末怪傑」的辜鴻銘，就讓曾毓雋的叔父、時任執政府外交次長的曾宗鑒出面邀請。
曾宗鑒是辜鴻銘的學生。他認為由自己突然邀請老師擔任翻譯不夠禮貌，還不如讓曾毓雋代為約請。
曾毓雋是辜鴻銘的小輩，但與辜鴻銘卻是忘年交，朋友說話反而比師生更好措辭。他也因此向段祺瑞建議：「約他（指辜鴻銘）參加關稅會議不難，不過最好給以高等顧問的名義，每月饋贈數百元的車馬費。」
取得段祺瑞的同意後，曾毓雋第二天就前去拜訪辜鴻銘。見面之後，他首先代段致意，隨後拿出了高等顧問聘書和兩個月共一千元的車馬費。辜鴻銘為人非常機敏，不待曾毓雋開口說明來意和要求，就說：「段執政想利用我當關稅會議場中的喉舌吧？」
在得到曾毓雋的確認後，辜鴻銘答應得非常爽快：「關稅會議關係到國家主權問題，這是我義不容辭的，到時我一定參加。」
1925年10月26日，關稅特別會議在中南海居仁堂如期召開。除九國公約的參與國外，美國還介紹了瑞典、挪威、丹麥三國加入，從而由九國變成了十二國。段祺瑞親自出席開幕式並致開幕詞，辜鴻銘也隨段祺瑞出現於會場。他身著長袍，套上大袖口的馬褂，腦後拖一根辮子，神態怡然，隨聽隨記隨譯，舉止格外拉風，引起了會場上中外人士的一致注目。
開會第一天，中國政府即按普通品至奢侈品的不同規格，提出要加征值百抽五至值百抽三十的臨時附加稅。各國代表對中國的開價如此之高表示驚訝，認為已經超過「九國公約」的範圍。經過談判，中外商定在裁厘未實現之前，先設一個為期三年的過渡期，在此過渡期內，關稅依照「九國公約」，對進口商店一律按普通品值百抽二點五，奢侈品值百抽五的辦法徵收附加稅。
平衡木
關稅會議的召開，令段祺瑞大為振奮，但是正如曾毓雋所言，與外交及加稅相比，裁厘和解決國內糾紛才是真正讓人頭疼的難題。
在當時國內的政治版圖上，雖然南北方的軍政實力已呈現出明顯的彼長此消之狀，但國民黨人還未能佔據政治中心位置，加之民眾有著尊崇正統的心理，作為段祺瑞執政基礎的北洋系仍是解決中國政治問題的重心所在，即所謂「北洋為世所重，民黨為俗所輕」。
如果北洋足夠團結，其實佔據兩廣的國民黨和僻處西南一隅的滇唐蜀劉都不難對付。問題就在於北洋早已四分五裂，幾次政治摩擦和軍事衝突，說來說去削弱的都是北洋自身實力，特別是第二次直奉戰爭的爆發，對北洋內部而言可謂大傷元氣。
站在執政的位置上，段祺瑞不可能有「杯碎時由我全之」的自由和從容，他要確保「杯暫不碎」，便只能使出渾身解數，盡力對北洋系進行整合。具體來說就是取消「安福系」，以「天下共主」的身份來平衡各派勢力，避免北洋內部繼續發生衝突。
各派之中，最感棘手的自然還是如何擺平馮玉祥和張作霖。作為當時最有實力的兩個北洋派別，馮、奉兩派不僅均力圖左右中央政治，而且彼此之間矛盾尖銳——馮玉祥鄙視張作霖是「鬍子」，張作霖則認定馮玉祥是個有野心、難相處的呂布之徒，雙方爭來奪去，互不相讓。
如何對待馮、奉兩派，段幕有兩種截然不同的意見，而且也分成涇渭分明的兩個派別，即所謂的「國舅派」和「太子派」。
「國舅」吳光新是段祺瑞的內弟，段公館的家人稱他為「吳小舅子」。「吳小舅子」性格蠻橫、脾氣大是有名的，嘴裡經常不乾不淨，罵罵咧咧。俗話說，外甥多似舅，段宏業的脾氣也很臭，家人們常說段宏業「跟他舅舅似的」。
段宏業是吳光新唯一的嫡親外甥，可是說來也怪，舅老爺和大少爺的感情卻極其惡劣，一對壞脾氣更是針尖對麥芒，往往戳在那裡互不相讓，最後簡直形同水火，二人見了面連話都不說。
段祺瑞雖然早年對段宏業這個寶貝兒子深惡痛絕，一向不給好臉色看，但年紀大了以後，不免也產生了常人的舐犢之情，隱隱然已視段宏業為自己的接班人。自天津籌備入京起，他授命段宏業在段幕中負起責任，便有加以培養之意。
被欽定為「太子」的段宏業也漸漸變得跋扈起來。在段幕內，一般人都稱他為「大爺」，一般公事都要先向「大爺」請示，「大爺」同意之後，才能請示「執政」。
一位舅老爺，一位大爺，都是段祺瑞的至親，手中都握有一定權力，偏偏又水火不容，於是段幕人員也無形中分成兩派：一派以吳光新出面，稱為「國舅派」，主張拉緊張作霖，打擊馮玉祥；另一派擁護段宏業，稱為「太子派」，主張聯絡馮玉祥，抑制張作霖。
兩派都主張靠攏一方，排斥另一方，彼此觀點極端對立，經常一見面就吵。有人覺得這種現象不太好，就請執政拿個主意，但段祺瑞卻聽之任之，對哪一派都不支持、不反對、不干涉。
段祺瑞自己對張作霖、馮玉祥的態度也很微妙。在張、馮之間，段祺瑞和張作霖的私人交情要更好一些。有一次，段宏業向他請示，說張學良要同他拜把子，結為盟兄弟，應如何回復。段祺瑞說：「他的兵可以同你拜把子，他的兒子卻不能同你拜把子。」
段祺瑞極重尊卑長幼之分，他自認比張作霖及其部下要大一輩，所以才讓小兒女稱張作霖為「張大哥」。按照他的觀念，段宏業應與張作霖同輩，比張學良又大一輩，是不能拜把子的。不管段宏業在回復張學良時如何措辭，都有些傷感情，張家父子的臉色也極可能不太好看。有人分析，這與段宏業後來主張抑制張作霖不無關係。
換個角度想想，老段雖講原則，但絕非食古不化，何況如果段宏業和張學良真的拜了把子，也不至於就會引起什麼閒話，這只能說明段祺瑞對與張家距離過近本身就存在顧慮。
實際上，段祺瑞採取的是一種「平衡木」的辦法——奉軍實力最強，所以不能無馮，否則無以制張；國民軍控制著京漢線，所以又不能無張，否則馮將無法駕馭，並對自己構成威脅。
倘若像「國舅派」或「太子派」所主張的那樣，完全傾向於馮、張中的任何一方，則段祺瑞所苦心維持的這種平衡勢必就要被打破，那對執政府而言可不是什麼好事。段祺瑞深知其中玄機，所以他才會站在「不偏不倚」的立場之上，有意無意地利用「國舅派」、「太子派」達成目的，即以「國舅派」拉張，以「太子派」拉馮。
玩「平衡木」並不輕鬆，執政不到兩個月，就有人拿段祺瑞與徐世昌對比，稱他「已入十年東海境地」。馮玉祥曾在日記中寫道：「段公上台對軍事不敢以命令式指揮……凡事均不好辦。」連張作霖也譏諷段祺瑞的處境是「北京烤鴨」，兩面受到煙熏火炙。
好在段祺瑞政治經驗豐富，即便在如此艱難的處境之下，他仍得以把北洋各派放入自己的棋盤，並利用它們之間的矛盾進行制衡，從而促成或維持了各派的「均勢」——甚至於長江、西南都成為段祺瑞的砝碼，被他用來搞政治平衡。
一名奉軍將領這樣解釋段祺瑞何以能做到這一點：「段以北洋元老的資格，對於北洋軍閥，無論哪一個，雖然都吸不住，卻都罩得下。」所謂「吸不住」，自然是指段祺瑞缺乏派系實力，無法隨心所欲地指揮調度各路兵馬。所謂「罩得下」，是說在北洋這個圈子裡，無論自居北洋正統的長江直系、從直系中分離出的馮玉祥，抑或力量強大但非北洋嫡系的奉張，還是向被視為「北洋遠親」的西南諸侯，暫時都只能接受段祺瑞，或至少是口頭擁段。
群兒相鬥
北洋內部的這種「均勢」維持了將近一年，但是就在這一期間，局部的戰爭與衝突也時有發生，新的危機開始不斷出現，並且顯示出處理稍有不慎，就有可能牽一髮而動全局的勢頭。
1925年10月，長江直系以孫傳芳為總司令，組織浙閩蘇皖贛五省聯軍，向奉軍發起總攻擊，浙奉戰爭爆發。此時，馮玉祥接受蘇聯援助，使得國民軍的實力得到極大增強，於是便開始與孫傳芳密商反奉計劃，不久又與奉軍將領郭松齡訂約，建立起反奉同盟。
為了對付國民軍，張作霖也拋去前嫌，與吳佩孚結成了直奉同盟。自此，各派大動干戈，段祺瑞苦心經營的「均勢」再也無法維持下去了，「調和統一」更無從談起。
歸根結底，段祺瑞還是不具備整合北洋系的真正實力，也可以說，在袁世凱之後，能夠被北洋各派始終公認的權勢中心其實一直都沒有形成過。
在這種情況下，段祺瑞的「均勢」只能是權宜之計，而非長遠之策。有人把他比喻成給一群兒孫分蘋果的老婦，雖然想盡辦法要做到公平合理，可是蘋果再多，也就那麼一籃子，何況還有大小酸甜之分，所以最後仍不免群兒相鬥，甚至遷怒至他這個老婦。
「群兒」之中，最難打發的仍是自恃有擁戴之功的馮玉祥、張作霖。馮玉祥在執政府剛開局時，就因所獲得不到滿足而心生怨懟。張作霖更是氣焰萬丈，得寸進尺，得到河北地盤之後，又復要山東。
段祺瑞的侄子段宏綱長隨段之左右，他和「太子派」的一些人進言，希望段祺瑞對張作霖的一些過分要求予以嚴詞拒絕，如果拒絕不了，就立刻離京，通電下野，並且說不這樣做將威信盡失，以後會越來越被動。
段祺瑞因為自身缺乏實力，做事已不像過去那樣堅毅果斷。雖然他認為段宏綱說得很對，但並未能堅持下去，在聽了「國舅派」的另外一番勸說之後，仍任命奉系將領張宗昌為山東督軍。
國民軍方面對此非常惱怒，認為段厚於張而薄於馮，於是便把氣都撒在段祺瑞身上。他們首先奪去北京治安軍警權，接著便蓄意對段幕成員尤其是「國舅派」展開打擊報復——在馮玉祥的授意下，馮的嫡系親信、時任北京警備總司令兼警察總監的鹿鍾麟先後下令逮捕了執政府總參議曾毓雋、司法院長姚震，財政總長李思浩見勢不妙，趕緊避往東交民巷，陸軍總長吳光新則藉著到日本觀操的名義，逃到天津去了。
此時執政府風雨飄搖，身為執政的段祺瑞已無能力保護自己的這些幕僚和部下，他只能盡全力阻止各方衝突的進一步加劇。
發現馮、奉已成劍拔弩張之勢，他特派時任執政府秘書長的鄧漢祥到各處接洽，勸阻馮玉祥等人不要用兵，但鄧漢祥出去跑了一圈，結果是毫無所獲。
鄧漢祥回來後，將各方非打不可的情形詳細告訴了段祺瑞，勸他以「電主張未能實現」為由通電自動下野。段祺瑞並不是一個戀棧之人，過去因總統不能接受他的意見，也曾多次憤而辭職。可是這次他卻不能不戀棧了，原因就是關稅會議尚無結論。
當時各國在會議上已原則承認中國關稅自主，並決定在元旦裁厘實現後正式施行。儘管段祺瑞知道在自己任上要實現裁厘的目標已經非常渺茫，但仍想勉力一試。另外，半途因內亂棄職而去，他也擔心這樣會令中國在國際上丟臉。他對鄧漢祥說：「現在有五十幾個國家的代表在北京開關稅會議，我若毅然決然宣佈下野，國際友人難免不責備我們對國家太不負責任。」
就在他心神不定的時候，他收到了一封從上海發來的電報，署名人是已經暌別很久的徐樹錚。
能夠有什麼作用
徐樹錚已經回來了。當初出國時，他對考察活動有著通盤考慮。他先是單人獨騎到法國，接著又與在國內組織的考察團會合於巴黎。這個考察團的成員有一些是他親自挑選的西北軍舊部，異國相逢，令徐樹錚非常高興。
舊部們眼中的「又公」（對徐樹錚的尊稱），一頭短髮已呈灰白色，然而壯志未泯。他對待考察團就和培訓西北軍一樣認真，早餐之後就給大家講孟子。當時孔孟學說在中國國內除了一些遺老或學者外，已沒有什麼人提及。徐樹錚堅持要這麼做，源於他自己日益形成的治國理念：中國已「衰敝之極」，必須通過尊經來提高國人素養，除此之外，「別無返魂之藥，足續垂絕之氣」。
講完孟子，他再指定當天考察的日程。按照徐樹錚的要求，每個人在考察過程中都要記筆記，回來之後還要寫日記，記述自己的所見所聞和感想，第二天再交由徐樹錚批閱。
徐樹錚的這種努力，與法國外交部司長柏裡索的意見倒有合拍之處。柏裡索當過袁世凱的顧問，他在中國時間很長，對中國國情也比較熟悉。他有一次對考察團的成員說：「中國革命後，太無綱紀，不學無術者竟佔據要津。中國不是無希望的，可惜在上者毫無治國之法。」
柏裡索或許對徐樹錚一行寄以希望，但大多數外國人卻不這麼看。當時中國派往外國的考察團太多了，說是考察團不如說是觀光旅遊團更為恰當。老外們看在眼裡，便理所當然地認為徐樹錚的考察團也是如此，「沒目的，沒計劃，玩一趟回去，能夠有什麼作用？」
出面接待考察團的各國官員出於禮貌，當面總會說一些好話，比如「中國派遣專使得人」、「此次出洋考察，獲益必多」，等等，可他們背後實際上都有一些類似的批評。至於各國民眾和輿論，因為沒有官員們這些顧慮，便往往直接採取訕笑和鄙視的態度。
有一次徐樹錚穿著軍服，帶著考察團參觀法國某菜市，結果引起了人們的注意。他們一邊走一邊聽到法國人用諷刺的口吻說：「你們不在自己國內好好練兵治國，卻到這裡來遊蕩、招搖過市幹啥？」又有一次，巴黎中國使館舉行茶會，徐樹錚好昆曲，便在赴會時唱了數首昆曲以助興。不料德國報紙很快刊出巴黎通訊，說中國將軍徐樹錚不乘馬觀操、參觀軍港，卻在茶會上高歌入雲，沉湎於音樂……
外國人不理解、不認同，考察團成員其實大多也心不在焉。即使從前那些跟隨徐樹錚的西北軍舊部，之所以能夠相從出國，也有鍍層金，以便將來回國後謀求個人名利的考慮，誰能料想得到徐樹錚對於考察會來真的，還抓得這麼嚴這麼緊呢？
除了徐樹錚本人外，考察團的大部分人都表現得心不在焉。早飯前聽徐樹錚講孟子，有的人打瞌睡，有的人精神渙散聽而不聞，到後來甚至有托故不到的。考察時規定要人人記筆記，但記的多少和質量，並無固定要求，於是便逐漸流於形式。一國考察結束，筆記就要收齊保存，以備日後整理，可是收與交都得不到嚴格執行，徐樹錚發了脾氣，這才交了上來。
考察團在考察時，徐樹錚通過中國駐各國公使，特地請人做專題講述。講述者均為所在國高級官員或專家教授，按理這樣的專題講述是很有價值的，然而有些考察團成員純粹是應付差事，不得不出席，其間不僅不能認真做記錄，而且好幾次還有昏昏欲睡的。講述者雖然不好意思說什麼，但對這種不禮貌的行為明顯表現出了不高興。
在國外的那段日子裡，最令徐樹錚感到沮喪的恐怕還是國人對他的態度。考察法國時，正值孫中山在京逝世，旅法同胞在巴黎開追悼大會，徐樹錚特派留學生出身的林子峰等二人參加，卻遭到了反對。中國留法學生還廣發傳單，對徐樹錚及中國駐法公使陳菉大加攻擊，稱他們是「與帝國主義親善之公使及北京軍閥所派之代表」，林子峰等人被禁止上台講話。
繼先後對英國、瑞士、意大利進行考察後，徐樹錚率考察團返回巴黎進行短期休息，並做赴德考察的準備。在意大利時，國內傳來了上海大罷工、廣州騷動、北京學生大遊行乃至搗毀外交部的消息。這一系列事件顯然與徐樹錚「尊尚經訓」、「以教養挽救中國」的理念有著極大衝突，也使他感到了深深不安。雖然他表面上似乎一直都很平靜，但內心其實波動很大，有一天晚上忍不住在床上仰臥痛哭。
回到巴黎之後，徐樹錚對隨行諸人說：「赴德考察日期，須視國內情形酌定。」
「賣國賊」
種種不順，讓考察團內人心浮動，林子峰等人相繼辭職歸國。考察團秘書翁之熹因為家裡有事也微露辭意。翁之熹系徐樹錚在西北軍時期的幕僚，曾隨他做「荒沙萬里行」，一同出使過外蒙古庫倫。考察期間，翁之熹奉命每天為徐樹錚寫起居注，徐樹錚準備以此為基礎，回國後寫一本視察記，以便與他以前寫的《建國銓真》相互印證。
徐樹錚見翁之熹也想走，不由大怒，說：「子峰可行，你不可行。若大家不想幹，大家捲鋪蓋，我專使亦可不做了！」
林子峰回國前，徐樹錚在巴黎皇家飯店為其餞行。飯店內燈紅酒綠，一名紅衣少女頻頻為客人起舞。徐樹錚觸景生情，即席寫詩一首贈予翁之熹，詩中有「天涯風雨故人情」一句，勸對方打消辭意。
儘管徐樹錚的贈詩令翁之熹頗為感動，但眼看著眾人紛紛離去，在考察團內也幾乎看不到什麼出路，他仍然還是提出了辭呈。
翁之熹走後，徐樹錚一行即動身前往德國。當時盛傳徐樹錚是奉北京政府之命與德國簽訂秘密條約，在德留學生對此極為憤怒。徐樹錚到德國後，即打算召集留學生開會，以說明情況。
中國駐法公使陳菉一聽，急忙勸止，說：「留學生年紀輕，什麼都不懂，到時一定會有不利於專使的舉動。專使身處國外，隻身無護衛，使館內也缺乏保安人員，千萬不可嘗試。」
徐樹錚回答：「留學生讀書必明理，我以理導之，有什麼可怕的？」可是陳菉就是不肯讓他出面，說著說著還跪下了。徐樹錚見狀，只得放棄了這一計劃。
在德留學生聽說徐樹錚已到德國，立即包圍了公使館，要求陳菉交出「賣國賊」。陳菉不敢出來交涉，僅派門衛阻攔，說：「公使赴宴未歸。」
留學生們哪有這麼好糊弄，立即做出要群毆的樣子，把門衛和保安都給嚇跑了。他們衝進公使館，正要登樓，陳菉的夫人上前攔住，對他們說：「公使不在樓上，你們想幹什麼？這裡是我的寢室。」
眾人愕然止步。突然有一個學生冒出驚人之語：「今日之事，國家大事也，怎能以男女之嫌，而置國事於不問？」說著，居然就跑上前去，強行把陳夫人推到了門外。
學生們蜂擁而入，到處搜尋，最後在盥洗間把嚇得哆哆嗦嗦的陳公使給找了出來。問他要徐樹錚，陳菉可憐巴巴地說：「現在我自顧不暇，還能包庇別人嗎？徐樹錚確實不在這裡，而且我也不知道他去了哪裡。」
有人出了個主意：「請公使以電話把他召來，千萬不要說我們在這裡。」陳菉堅持說：「確實不知道他在哪裡，不過我可以擔保徐樹錚絕無賣國行為。」
相持了四五個小時，陳菉說得口乾舌燥，而學生們仍無退意。在萬不得已的情況下，陳菉提出：「我立據擔保如何？」
得到眾人同意，陳菉執筆寫道：「陳菉謹以身家性命，擔保徐樹錚君此次來德，確無賣國行為。」寫完之後，他還被迫在上面按了指印，眾人這才散去。
徐樹錚得知這件事，只得匆匆離開了德國。
考察團一共考察了十二個國家，最後一站是美國。當他們抵達美國的時候，中國國內政局已開始發生動盪，段祺瑞顧及徐樹錚的安危，屢次發電報叫他暫緩回國。可是徐樹錚覺得恰恰是這個時候，段祺瑞才更需要他出力，因此到美國不久，即取道日本回到了上海。
自江浙戰爭之後，江浙的局面已為孫傳芳所完全控制。孫傳芳是直系中的新興力量，也是繼吳佩孚之後最為善戰的直系將領。雖然在江浙戰爭時，他曾與徐樹錚為敵，但時過境遷，直系已對段祺瑞表示「擁戴」，反而奉、馮兩方由過去的反直盟友變成了段的肘腋之患。
孫傳芳與奉、馮都沒有密切聯繫，而且他和徐樹錚還是士官學校的同學。徐樹錚便藉著這層同學關係，與孫傳芳進行聯絡，希望運用孫傳芳的力量來改變段被奉、馮夾擊的尷尬處境。
完成與孫傳芳的聯絡，徐樹錚就準備進京述職，同時把與孫傳芳商量的一些辦法提供給段祺瑞。可是接到他的電報，段祺瑞卻馬上復電勸止他來京，認為北京形勢對他可能不利。
大搖大擺地回去
徐樹錚沒有聽從段祺瑞的話，仍然決定先一步去天津，但當時的局勢確實非常嚴重，尤其北方政局的動盪不安達到了極點。當他從上海出發時，所謂的「國奉戰爭」（也稱「馮張戰爭」）已經爆發，馮玉祥與奉軍李景林部在京津間發生激戰。由於馮玉祥策動了郭松齡，戰事很快向有利於馮的方向發展，徐樹錚剛剛在天津下船，李景林就已潰敗，張作霖則因為郭松齡之變而無力入關，京津一帶遂完全為馮玉祥所控制。
得知徐樹錚到了天津，段祺瑞連發函電和派人勸阻他入京。徐樹錚在天津的親友也都勸他這時候萬萬不能進京，有的親友甚至為此痛哭流涕。他們把曾毓雋等人的事告訴徐樹錚，以此證明北京局面確實非常危險複雜——曾毓雋、姚震皆為政府要員，馮玉祥卻可以想抓就抓，遑論他人？你徐樹錚進京簡直是自投羅網！
不料徐樹錚聽後卻用他那慣有的自傲自大的語氣說道：「我怎麼能同雲沛（曾毓雋的字）、贊侯（李思浩的字）比呢？段老總的事多半是壞在這兩個人身上。」又說：「我非去不可！我要看看老先生，也要讓人們看看，我當年怎樣出來的，現在還要怎樣大搖大擺地回去。」
徐樹錚如此膽大，其實還有著外人所不知道的內幕。宋子揚是徐樹錚的士官同學，先後做過馮玉祥、徐樹錚的部下。當徐樹錚尚在歐洲的時候，宋子揚即以徐樹錚的名義與馮聯絡，那時馮玉祥同張作霖的關係愈搞愈壞，但其力量還遠不如奉軍，於是便想利用宋子揚將徐樹錚拉到自己這一邊來，為此還特意對著宋子揚說了一些盡棄前嫌、重新合作之類的話。
宋子揚向徐樹錚轉述後，徐樹錚信以為真。後來局勢轉變，馮玉祥得以控制京津，他自認為勢力已成，於是立刻放棄了拉徐樹錚的計劃。可歎徐樹錚未能看透這一點，因此對大家的勸阻才會置之不理。
宋子揚一來可能也被蒙在鼓裡，二來又希望徐樹錚能重掌大權，以便有所攀附，所以極力慫恿他進京。這時由於馮、奉戰事的關係，京津鐵路的交通尚未恢復，暫時只能乘汽車入京。由於公路要經過馮軍佔領區，徐樹錚也怕路上遭到攔阻，宋子揚見狀一拍胸脯：「我有個旗子，可以在馮軍佔領區域通行無阻。」
徐樹錚於是和宋子揚乘坐汽車，沿公路入京，果然一路上無人阻攔。當他遠遠地看見北京城樓時，心裡非常高興，不由用昆腔輕聲哼了起來：「大搖大擺，走進了古城！」
徐樹錚一到北京，即去段公館拜見段祺瑞。見到徐樹錚，段祺瑞又驚又喜，二人「相對跪拜，抱頭痛哭多時」。
段祺瑞問他為什麼一再阻止，還要冒險入京。徐樹錚回答時很動感情：「怎能不來？以公論，我是奉派出國專使，回國多時，理應向政府述職。以私論，我與老先生分開這麼長時間，也應該來問候起居。至於某系（指馮派）對我個人有何不利的說法，聽之而已。」
老爺子只是擔心徐樹錚會有危險，能夠見面當然非常開心。二人共進晚餐，不過吃完飯後，他仍然催徐樹錚早早離京，免生意外，並指點怎麼走才最安全：「你要由西車站坐京漢車到鄭州，再轉隴海線回徐州。」
第二天，根據徐樹錚的意見，執政府舉行了專使覲見執政覆命的典禮，隨後徐樹錚又向各部總長報告了出訪情況。
聽說徐樹錚回京，以前的那些朋友都替他捏把汗，說：「小徐真敢回來，好大膽子！」大家紛紛勸他多加小心，李思浩還派人請他到東交民巷見面，意思是勸他一道留在那裡避難。
北京的緊張氣氛也讓徐樹錚感到聯馮可能並不成功，但他住了兩天後，發現馮玉祥方面一直都沒有什麼動靜，這反而使得他放下心來，對朋友們的善意未再多加考慮。在此後的六七天裡，他除了和老朋友們聚會外，還到自己所創辦的正志中學進行演講，給學生們講述旅歐觀感。
有些熱心的老友看到北京的環境對徐樹錚實在不利，又勸他趕快離開。徐樹錚則說：「既來了，現在離新年只有兩天，何不等元旦給老總拜年後再走呢！」
幾位老友一再苦勸，段祺瑞也讓他不要再等，徐樹錚這才決定啟程，並請執政府打電話給火車站準備專車。不過他沒有按照段祺瑞指點的路線走，而是打算乘車去天津，因為在聯馮不成的情況下，他已經約了友人在天津等他，準備轉過頭來商量如何聯絡奉張。
離開京城前，段幕的一群朋友給他餞行。聽說徐樹錚要坐火車去天津，當場有一些人表示反對。理由是徐樹錚在京城已經耽擱了這麼多天，又是典禮又是報告會的，馮玉祥所部不可能不知道，絕不會輕易放徐樹錚離開。如果徐樹錚要坐火車去天津，勢必經過廊坊，廊坊現由馮玉祥的部下、察哈爾都統張之江率兵駐紮，到時恐怕後果難料。
這些朋友建議徐樹錚還是謹慎從事，改乘飛機或乘汽車繞道去天津。徐樹錚猶疑了一下說：「我的專車已經備好，還會有什麼問題嗎？並且我現在還是專使的身份，他們怎能擅動呢？馮就是想和我為難作對，也絕對不能輕易動我。」
他讓眾人放心，說相信此行不會發生什麼意外。聽了他這一席話，也就沒有人再說什麼了。
當天下午，段祺瑞突然發現自己的書桌上有一張紙條，上寫「樹錚不可行，行必死」。他趕緊叫人送給徐樹錚，徐樹錚看了也只是一笑置之而已。
專車離開北京的時間大約是晚上9點，徐樹錚上車後就在包房裡睡著了。
借刀殺人
睡夢中的徐樹錚尚不知道，其實從他由津入京的那一天起，就已經被鹿鍾麟給牢牢盯上了。
鹿鍾麟首先用了一招借刀殺人計，並特地慫恿陸建章的兒子陸承武為父報仇。殺父仇人不共戴天，陸承武自然不好推托說不去。鹿鍾麟又從手槍隊裡撥了二十個兵給陸承武，讓他率隊在京城潛伏，伺機對徐樹錚實施暗殺。
陸承武雖是畢業於士官學校的職業軍人，其實卻是個只會抽大煙的大煙鬼，根本沒有膽量殺人。徐樹錚在北京好多天，他都不敢下手，最後被逼得急了，只好提了個讓鹿鍾麟哭笑不得的建議：設法讓徐樹錚來警備司令部拜訪鹿鍾麟，再請鹿鍾麟預先通知，然後他帶人於司令部門前予以狙擊。
且不說究竟該怎麼把徐樹錚騙來，若是在警備司令部將他殺了，那不擺明事情就是鹿鍾麟干的了嗎？還用得著你動手？鹿鍾麟當然不能同意這樣的餿主意，他對人說：「陸承武連這點子事都辦不到，虧他還帶了這麼多打手，真是『癩狗扶不上牆去』。」
得知徐樹錚要乘車返津，鹿鍾麟急命參謀處與豐台車站聯繫，得到的答覆是：「車已開過豐台，計時尚未到達廊坊。」於是他便向張之江下達追殺令。張之江聽後認為：「此事重大，不宜魯莽。」鹿鍾麟不由分說：「這是命令！」
徐樹錚的專車到達廊坊後，因為錯車，停在了廊坊車站。張之江的參謀張鉞早已率衛隊在車站等候多時，他首先進入車廂，問哪一位姓徐。
徐樹錚的秘書薛學海聽成了問哪位姓薛，就走上前說是不是找我。張鉞說不是找姓薛的，是找姓徐的。這時徐樹錚也聽見了，就穿著睡衣從包房裡走出來，說我姓徐。張鉞接著問了一聲：「您是徐專使嗎？」徐樹錚回答說：「是。」
確認徐樹錚的身份後，張鉞說：「司令請您到司令部去一趟，有幾句話要和您談談。」徐樹錚還沒有意識到危險就在眼前，以為真的是張之江請他到司令部商議什麼，於是就對張鉞說自己這幾天在北京太過疲勞，聲音都啞了，談話不方便，現在也不能下車。「我到津休息幾日，隨時可約定時間，或是我到這裡來，或是請張都統（張之江）去天津都可以。」
馮玉祥的部隊也叫西北軍，但此西北軍非彼西北軍，該部官兵多為大老粗的士兵出身，缺乏修養。見徐樹錚不願下車，張鉞立刻撕下面具，用手強拉了徐樹錚一把，說：「哪有這些說的，走！」徐樹錚這才知道來者不善，連忙說：「等我穿上衣服……」
張鉞非常蠻橫：「還穿什麼衣服！」命令士兵連拖帶拉地將徐樹錚架下了車。
徐樹錚下車不久，薛學海等隨從人員也被帶下車，關進了路旁的一間小土房子裡。那間小土房子連房頂都沒有，天氣又很冷，大家只好聽天由命。
徐樹錚被單獨折磨了幾個小時，據說先是用繩子綁勒，然後是幾個士兵將門板壓在他身上，站在上面跳……
天剛濛濛亮的時候，薛學海聽見門外有說話的聲音，似乎從門前走過了許多人。接著又聽到有人「唉」地歎了口氣，他立刻就辨別出這是徐樹錚的聲音。這些人走過去沒多長時間，便傳來了兩聲槍響，他們當時就知道「徐頭」（部下們對徐樹錚的稱呼）完了——事後查明，徐樹錚共中兩槍，太陽穴和腦後各中一彈。
戎馬書生終誤我
鹿鍾麟接到廊坊方面關於槍決徐樹錚的電話後，立刻派人告知陸承武，要他於當夜趕往廊坊車站。陸承武在睡夢中被叫醒，得知徐樹錚已被處決，他還懵懵懂懂地對來人說：「還需要我去嗎？」那人說：「你不去怎麼行？非去不可！」
陸承武不得已，只得連夜趕到廊坊，去扮演替父報仇的角色。按照設定好的戲碼，薛學海等人被接到司令部。陸承武出面對眾人講話，說徐樹錚是他殺父的仇人，他已經將徐樹錚處死，這事和別人沒有關係云云。
聽到「徐頭」果然已經被害，大家就用請求的口吻對一名軍官說：「現在徐專使已經死了。我們和他在一起共事多年，是不是可以看看他的屍首？」
軍官同意了，眾人被士兵帶到一片松林裡，在那裡看到了躺在地上，已經死亡的徐樹錚。隨後他們又被帶回司令部，軍官語帶威脅地對他們說：「今天的事是私人的事，不跟大家為難。你們知道徐樹錚是被陸承武殺死的就行了，別的不許多講。」
薛學海等人還被逼著寫了一個書面報告，說明與徐樹錚的關係。第二天才被張之江派人送往天津。
徐樹錚遇害時，千里之外他的一位老師夢到了他。這位老師是居住於南通的清末狀元張謇，自號嗇庵老人。徐樹錚在動身前往平津前，曾專程到南通對他進行拜訪。
在徐樹錚心中，其實一直都潛藏著一個脫去戎裝、專意於文章學問的想法。出國考察期間，他曾在倫敦參觀英國文學泰斗約翰遜在世時常去的老酒店，還在約翰遜坐過的椅子上坐了坐。雖然徐樹錚並未讀過約翰遜的作品，但他對約翰遜生時窮愁困苦，死後卻能以文豪的身份享受盛名，接受人們永久紀念這一點非常羨慕。
想到自己半生戎馬，儘管有著顯官厚爵，可是僕僕風塵之間，功業轉眼就會化為雲煙，將來也不知道有沒有人能夠記得自己的名字，徐樹錚頓感失落。他一時興起，便在老酒店的來賓簿上寫了一篇短文，記述了自己的這一情結。
與先前奔波來去，大多帶有強烈的功利色彩不同，徐樹錚赴南通的目的較為單純，就是想拜「狀元」張謇為師，向他請教學問。在張謇的居所，徐樹錚以後輩晚學的身份，一連數日向張謇虛心求教。張謇學問淵博，所談時局學問，句句扼要，徐樹錚佩服得五體投地，當場對張謇說：「從今爾後，樹錚將奉嗇老（張謇）為師矣。」
徐樹錚走後的一天，張謇突然在睡夢中聽到徐樹錚給他誦讀一首詩。從夢中驚醒後，老先生還能記得詩句，遂趕緊披衣挑燈，根據記憶寫了下來：「與公生別幾何時，明暗分途悔已遲。戎馬書生終誤我，江聲澎湃恨誰知？」
張謇讀罷黯然神傷，說：「徐樹錚必有事故，看他詩中有悲傷悔恨之意，莫非是來與我作魂夢之別的嗎？」沒多久噩耗傳來，張謇遂作《滿江紅》一詞致哀。
正所謂「戎馬書生終誤我」，徐樹錚的不得善終其實早有跡象，當年他在處決陸建章後，外界就有了「殺人者人恆殺之」的評論。無獨有偶，奉系的楊宇霆與徐樹錚同有「小諸葛」之稱，日後同樣是死於非命，若就性格而言，楊、徐的取禍之道可能都在於鋒芒太露，風必摧之。
可是在東瀛軍界，徐樹錚卻能得到很多軍人的欣賞和仰慕，儘管他本人對日本一直都有防範和敵視之心。
那些日本武官在未經上司允許的情況下，冒著違紀撤職的危險要援救他且不說。後來日軍侵華，身為日本華北方面軍最高指揮官的岡村寧次初到北平（即北京），就問徐樹錚的後人有沒有在京的。當時有人回答，徐的長子徐審義任法部秘書。岡村便說，故人之子應加照顧。不久，徐審義就得以升任偽教育總署文化局局長。
岡村和徐樹錚實在談不上什麼故人，只能說，徐樹錚在日本軍人中的聲名確實很不一般。這或許也是民族性格差異的一種表現吧。
斷我股肱
段祺瑞很早就知道了徐樹錚遇險的消息。原因是時任交通總長龔心湛為段派人物，當徐樹錚的專車在廊坊被扣時，鐵路局的段長第一時間就向龔心湛報了信。
段祺瑞聽到消息後震驚莫名，可是又無計可施，只好抱著僥倖心理，想慢慢地找尋渠道，設法把徐樹錚給解救出來。
然而不久之後，他就得到報告：「專使下車，什麼話也沒有問，就被槍斃了。」
段祺瑞一生以沉穩老練著稱，無論遇到多大的險情和困難，都有一種泰山崩於前而面不改色的鎮定從容。可是這一報告卻讓他幾乎暈了過去，他老淚縱橫，痛哭失聲：「斷我股肱！斷我股肱！」隨從段祺瑞多年的人都說：「跟老頭子這麼久，還沒有見過他這麼傷心呢！」
悲傷之餘，段祺瑞欲派人找回徐樹錚的遺骸進行裝殮，可是卻沒有人知道遺骸到底被埋在了哪裡。過了幾天，他忽然收到一封信，信是廊坊駐軍司令部的一名姓洪的軍醫寫來的，他自述原名段大槐，後歸宗姓洪。清末時他曾在段祺瑞的江北提督衙門給幕府當差打雜，徐樹錚教他讀書寫字，洪軍醫遂拜徐樹錚為師，並在徐樹錚的幫助下考進了天津軍醫學校。
洪軍醫說他代收了徐樹錚的遺骸，將即日運至北京。原來張之江的部下處決徐樹錚後，只是隨便挖了個坑，將他的遺骸埋在了附近的野地裡。
洪軍醫聽到後便去向張之江請求說：「我小時候在江北提督衙門裡伺候做幕的師爺們，徐師爺看我不錯，把我送到天津學醫，這才有我的今天。他跟都統（指張之江）有什麼仇恨，我不知道。念他過去待我有恩，可否容我給他收屍？」
張之江殺徐樹錚不過是奉命行事，他跟徐樹錚之間也沒有什麼大不了的個人恩怨，便也樂得做個順水人情，於是就說：「大丈夫恩怨分明，你收你的屍吧，我不攔你！」
得到張之江的允許，洪軍醫把徐樹錚的屍體從泥土中刨出來，放進自備的一具薄木棺材，然後用驢車運到北京，停放在永定門外的土地祠裡。
段祺瑞為徐樹錚的遺骸重換了裝裹和棺木，並親撰「神道碑」，回顧了二人相與的過程，對徐樹錚極盡褒揚。他還囑咐自己的子孫後代，要求以後每年擺供祭祖時，必同時祭供徐樹錚牌位。
在徐樹錚被害的第二天，京津各報就都登出了陸承武的通電。這份通電實際上是鹿鍾麟的北京警備司令部事先早就擬好的，在通電中，他們以陸承武的口吻指稱是陸承武親手殺死了徐樹錚，「以雪國人之公憤，藉報殺父之深仇」。一般不曉內情的人都知道陸承武的父親陸建章系徐樹錚所殺，所以對於陸承武的舉動也深信不疑。
段祺瑞則深知事情沒有這麼簡單，「所謂仇者偽也」，他堅決主張明令緝兇。此前迫於各方特別是馮玉祥方面的壓力，執政府已成立了國務院，內員多為親國民軍或與國民軍方面有淵源的人。國務總理賈德耀是馮玉祥的把兄弟，又系馮玉祥一手推上台，看到段祺瑞所發的緝兇令後，執意不肯在上面副署，事情最後只能不了了之。
段祺瑞雖然暫時不得不忍氣吞聲，但經過這件事，他和馮玉祥之間的關係也就走向了徹底破裂。
徐樹錚能夠成為段祺瑞的「靈魂」，不僅是由於他的謀劃和活動能力，更在於二人在政治理想上高度契合。段祺瑞曾親自撰寫《內感篇》一文，在這篇文章中，他分析道，國內的一般學人在遊歷歐美後，都想把西方的政治思想和制度立刻移植過來，就好像是拿別人的裝飾物，來美化自家廳堂一樣。殊不知上層建築的東西絕非如此簡單，畢竟西方人對他們的那一套早已習慣，而國人在此前的三千多年裡，一直都有自己的歷史和文明，如果一定要強行移植，只會帶來東施效顰的結果。
段祺瑞與徐樹錚一樣，都認為中國的「立國要素」仍是傳統的孔孟之道，是「老吾老以及人之老，幼吾幼以及人之幼」。由此出發，其治國之道可以用四個字來概括，即「綱紀為先」。
作為段幕後起的重量級幕僚，章士釗的政治理念與段祺瑞、徐樹錚可謂如出一轍。他是一個「以農立國」論者，竭力主張恢復體現「農國」精神的中國傳統文化，特別是儒家的禮教，並視禮教為拯救社會危機的對症良藥。
可是此時的社會風潮卻與他們的想法完全背道而馳，各地學生運動此起彼伏，對北京政府的「綱紀」形成了極大的衝擊。段祺瑞慨歎：「最奇特者，人之所無，而我更有澎湃之學潮，可謂新之又新。」
為此，在執政府尚能維持局面時，段祺瑞便讓章士釗由司法總長兼署教育總長，想通過這位名士出身的政治家來整頓學風。
心力交瘁
章士釗兼署教育總長伊始，他下決心從三件事抓起，即宣佈大學統一考試，教育部專設考試委員會，主抓學生的入學及畢業考試；教育部設編譯館，督促獎勵各大學教授著書、譯書；合併北京八所大學。
章士釗的這些措施後來被認為皆切中時弊，但在當時遭到了教育界及青年學生的強烈反對，根本無法得到有效的貫徹實施。因阻止學生參加5月7日的「國恥紀念日」，章士釗自己的住宅也被激憤的學生搗毀，各校學生還聚會請願，要求罷免章士釗。
章士釗整頓學風的舉措歸於失敗，他被迫呈請辭去本兼各職，經段祺瑞挽勸，才重任司法總長職。
此後，學生參加政治運動更為積極踴躍。段祺瑞索性將司法總長委與他人，專調章士釗出任教育總長，意圖整頓教育，抑制愈演愈烈的學潮。這時正好北京國立女子師範大學（女師大）的學生要求撤換楊蔭榆，章士釗便率先拿女師大作為典型開刀。
女師大校長楊蔭榆是中國第一位女大學校長，她遵循西方教育理論，主張學生應專心讀書，不要參加和過問政治運動，在相應的校規校紀上也很嚴格苛刻，由此激起了學生和教職工的嚴重抗議。
女師大學生自治會派代表前往教育部，要求教育部撤換校長。章士釗對學生的這種激烈行為非常惱火，決心以強力壓制的辦法加以整頓。在他的公開支持下，楊蔭榆宣佈開除劉和珍、許廣平等六名學生自治會成員。
女師大學生針鋒相對，決定驅逐楊蔭榆，發起「驅羊（楊）運動」，從而爆發了女師大風潮。其間，魯迅、錢玄同等七名教育界名士聯合發表宣言，表示堅決支持學生，魯迅還因此被章士釗開除了在教育部的職務。
魯迅早就在文壇聲名遠播，其雜文之殺傷力更是無人能及。他不僅在文章中將章士釗罵得狗血淋頭，毫不客氣地稱章「是凶獸樣的羊，羊樣的凶獸」，而且還拿起法律武器，告倒了這位昔日上司。
最終扛不住的不是學潮中的師生，而是早已喪失實力的執政府。除楊蔭榆被免去校長職務外，章士釗也在其住宅再度被學生搗毀後，被迫辭去教育總長一職。書生本色的章士釗在加入執政府前頗負時譽，但掌握教育部卻讓他背負了太多的罵名，結局可謂潦倒。
事實上，執政府如此「弱不禁風」，與學潮背後的政潮有著相當大的關係。國共兩黨當時為反奉倒段，採取了聯合馮玉祥及國民軍的策略。馮玉祥則密囑鹿鍾麟對運動加以保護。這樣在國民軍控制下的北京，由國共兩黨所領導的學生運動、群眾運動便日益高漲，而且都將矛頭集中指向了奉系和段祺瑞執政府。
段祺瑞的日子越來越不好過。除飽受輿論指責和攻擊外，在北洋系內部，馮玉祥對他百般迫害，「挾天子以令諸侯」；張作霖也發表宣言，宣佈東三省與執政府斷絕一切行政關係。
雖然段祺瑞一直高度重視的關稅會議仍無具體辦法出來，但他實在是幹不下去了，於是決心辭職。1926年1月6日，段祺瑞讓人擬好了辭職電稿，但電文尚未發出，各報就已刊出內容。有的幕僚就趁勢勸他不能示弱，段祺瑞性格耿直好強，也便將電稿收回，不再提辭職這件事了。
這時的執政府已形同虛設，政令不但出不了北京城一步，就連執政府的大門都出不了，段祺瑞每天的大部分時間都只能用於誦經、下棋。雖然他表面上顯得十分悠閒安詳，但其實憂心如焚，在這一期間所寫的《因雪記》中，他歎息道：「綱紀蕩然已久，太阿倒持（指大權旁落）有年，人事計窮，欲速不達。心力交瘁，徒勞無補。」
令段祺瑞憂慮的另一件事則是北方「陰雲慘淡，兵氣沉霾」。曾經由馮玉祥佔據上風的「國奉戰爭」已出現新的轉折，一度被逼得差點要下野的張作霖來了個絕地反擊，他先是打敗並槍斃了起兵反叛的郭松齡，接著又聯合直魯晉各軍，將馮玉祥的國民軍包圍了起來。
夾於各方縫隙之中，衝突方彼此間擠壓得越緊，也就意味著無權無勇的執政府越要倒霉了。
其他還有什麼辦法呢
3月9日，直魯聯軍在北塘登陸，被國民軍擊退。國民軍隨即封鎖大沽口，不准任何船舶駛入。大沽口涉及「辛丑條約」，天津外國領事團及北京外交使團因此先後提出了抗議。鹿鍾麟只得答應重新開放大沽口，但提出條件：外輪不得為直魯聯軍運兵運械，外船入口不得有直魯艦船尾隨混入。
3月12日，日本領事館通知國民軍，說當天上午將有一艘日本軍艦進入海口，要求國民軍放行。國民軍方面答應了，但日艦一直拖到下午3點才進入海口，而且後面還跟著一艘船（後查明是另一艘日艦）。
國民軍生怕直魯聯軍跟在日艦背面發動偷襲，遂開槍要求緩行，日艦即開炮向岸上還擊。經過一陣交火，日艦退去，雙方互有傷亡。
事後，日本以國民軍破壞「辛丑條約」為由，聯合英、美、法、意等八國公使向執政府發出最後通牒，要求停止天津、大沽口一帶的戰爭，撤除對大沽口的封鎖，否則各國海軍將採取行動。
通牒設定的期限是3月18日正午之前。3月17日，執政府外交部做出答覆，除為了維護國家體面，空泛地表示通牒內容「超越『辛丑條約』內容之範圍，不能認為適當」外，實際上完全接受了通牒的要求。
當天下午，北京各民間團體在北京大學三院召開聯席會議，決議在天安門前舉行大型請願活動，要求執政府駁回通牒，並驅逐八國公使出京。
執政府的衛隊旅旅長宋玉珍年近六十，且身體又不好，具體事務方面主要由參謀長楚溪春負責處理。楚溪春就在這一天接到了上級命令，說第二天學生要在天安門前開會，會後將到吉兆胡同（段公館當時所在地）和執政府門前請願，衛隊旅被要求到時分別在這兩個地點嚴加戒備。
因前線戰事緊張，鹿鍾麟已經帶著部隊到天津與奉軍作戰去了，馮派的另一名骨幹李鳴鐘代理北京警備司令，楚溪春接到的就是李鳴鐘所下達的命令。李鳴鐘在命令中還一再叮囑，要求在與學生接觸時必須萬般忍耐，做到打不還手，罵不還口，以免發生意外不幸事件。
這讓楚溪春感到十分為難。之前北京已經有過幾次學生遊行，均未出過事故，原因是那幾次都有鹿鍾麟的大刀隊在兩旁隨行，大刀隊兼維持秩序，同時與遊行組織者也形成了默契。這次大刀隊也隨鹿鍾麟去了前線，李鳴鐘派不出人來與遊行隊伍隨行，完全都要靠衛隊旅獨立維持。
楚溪春與段祺瑞的侄子段宏綱是保定同學，私下關係很好，他對段宏綱訴苦道：「士兵所受教育有限，簡單率直，能做到這樣的忍耐嗎？恐怕難免要釀成事故。」段宏綱只好安慰他：「只有兄等盡最大的努力來維持防止，其他還有什麼辦法呢？」
衛隊旅名為一旅，實際僅有兩個步兵營和兩個機槍連。楚溪春分了一下工，他親自到吉兆胡同部署警備事宜，執政府那邊則由衛隊旅參謀王子江負責。部署時，規定前幾排的士兵不准扎皮帶，以免接觸時發生毆打；中間幾排的士兵可以扎皮帶，但不准拿武器；後面幾排的士兵才允許攜帶武器。
1926年3月18日上午，浩浩蕩蕩的遊行隊伍在天安門前集會，會後首先到位於鐵獅子胡同的執政府國務院門前請願。遊行隊伍公推了共產黨人李大釗等五名代表，要求面見段祺瑞、賈德耀。
當時段祺瑞在吉兆胡同，賈德耀已匆匆躲開，衛隊便答覆說二人均不在。這一答覆引起群情激憤，眾人高唱著《國民革命歌》和「打倒列強除軍閥」、「打倒段祺瑞」等口號，向執政府衝去。
據在場的上尉軍械員邱霖說，當遊行隊伍衝擊執政府時，學生用帶著鐵頭的木棒打士兵的頭，並且痛罵士兵是「衛隊狗」、「軍閥走狗」，這時士兵還能遵守「打不還手，罵不還口」的規定，只是一個勁兒地被迫後退。
眼看著學生就要衝進執政府的大門，負責指揮警衛的王子江從沒有經歷過這種陣勢，急忙命令附近的士兵：「開槍吧！」他的本意是讓士兵朝天鳴槍，把學生嚇跑就算了。開始士兵也確實是向空中鳴槍的，但是並未能夠嚇退遊行人群。遊行隊伍中還有組織者大聲喊道：「不要怕呀！是放空槍，不要怕！」
人浪繼續往前湧去。處於高度緊張狀態的衛隊終於失控，他們竟然向遊行隊伍實施了平彈射擊！
鐵獅子胡同地方狹小，遊行隊伍人多擁擠，無法臥倒或躲避，頓時血肉橫飛，陳屍遍地。現場氣氛恐怖，慘不忍睹。
民國以來最黑暗的一天
慘案發生時，楚溪春正在吉兆胡同等待遊行隊伍的到來。從時間上看早該來了，但還遲遲沒有露面，他正想通過電話向執政府方面進行詢問，就聽到西方傳來了槍響。
聽到槍聲，楚溪春的心猛地一沉，意識到那邊一定出了事故，於是還沒來得及搖電話，就乘著汽車直奔執政府而去。
當楚溪春驅車趕到東四牌樓十條中間時，看到很多學生拿著小旗迎面跑來，神情都非常慌亂，其中有丟了鞋帽的，有滿臉沾滿泥土的，還有人大聲喊叫：「真厲害呀！真厲害呀！」
因為太過擁擠，汽車沒法再往前開，楚溪春便下車步行。出了十條西口，就到了執政府大門前，只見有十幾個學生已經倒在了血泊中。衛隊旅的士兵打紅了眼，還在端著槍四處搜尋。楚溪春當即吹響口哨，命令士兵趕快回到自己營房集合。
隨後，李鳴鐘等人也坐著汽車趕到了。李鳴鐘驚慌失措地對楚溪春說：「晴波（楚溪春的字），打死這些學生，叫我怎麼辦，叫我怎麼辦？」楚溪春無奈回答：「已經到了這個地步，我們只好報告段執政吧！」
在楚溪春返回吉兆胡同之前，段祺瑞已得到消息，並派段宏綱探視了現場。得知學生傷亡慘重，段祺瑞甚為傷感。在聽李鳴鐘、楚溪春分別報告情況後，他對李鳴鐘說，因為你們處理防備不周，才發生了這樣不幸的慘劇，望李司令同楚參謀長今後要特別當心，萬不可再發生任何事故。
不過在楚溪春後來的描述中，卻提到段祺瑞正在家裡和吳清源下棋，而且他還聲色俱厲地對李鳴鐘大聲說：「你能維持北京的治安不能？如果不能，我能撤換你，我能槍斃你！」又讓楚溪春轉告衛隊士兵，說自己不但不會懲罰他們，還要賞他們，「這一群土匪學生……」云云。