1924年11月5日，這一天，溥儀被逐出故宮。這一年，溥儀十九歲。一般人所不知的是，載灃在溥儀出宮前，不止一次趕赴南苑駐軍營地，試圖親自勸說馮玉祥不要「逼宮」。但馮玉祥絲毫不為所動，溥儀此前也曾派帝師陳寶琛拜望過馮玉祥，也被拒絕。一個有趣的歷史內幕發生在京畿警備司令鹿鍾麟和警察總監張璧等商量如何執行幾經修改的《清室優待條件》時，當時，鹿鍾麟僅僅帶領二十人的手槍隊，懷裡揣著兩顆手榴彈，從神武門闖進紫禁城，趕往養心殿。這些士兵採取「釘人術」，每見到一人，就強令站住，這樣一直找到內務府大臣紹英，要求他向溥儀馬上轉達命令，限時離開紫禁城。
當時溥儀正在儲秀宮跟孫耀庭踢完雞毛毽後，跟婉容一起吃蘋果。由於事態緊急，限時將到，鹿鍾麟將懷中揣著的兩顆手榴彈掏出來，猛然摔在紹英的桌上，故意大聲向隨從說：時間雖然到了，景山先不要開炮，再延長二十分鐘……溥儀被嚇得膽戰心驚，只好在鹿鍾麟等人的「護送」下，悵然離開了紫禁城。巧合的是，四十年後，溥儀在全國政協紀念辛亥革命五十週年的活動上，遇到了鹿鍾麟等人，溥儀特意向鹿鍾麟詢問當年景山上是否真的架有大炮。
鹿鍾麟哈哈大笑：「那是騙你的呀，哪兒有什麼大炮？」溥儀出宮之際，召喚心腹之人去養心殿西暖閣將最具書法價值的王羲之的《快雪時晴帖》私藏在行李卷中欲帶出宮外，結果被守門的國民軍搜出，《快雪時晴帖》後來輾轉到了台灣，現藏於台北故宮。而三希堂的另外兩件珍品王獻之的《中秋帖》和王珣的《伯遠帖》被敬懿太妃偷偷地帶出了宮，此後又叫貼身太監賣給了後門橋一家名叫品古齋的小古玩店。1951年，故宮將兩件珍品從香港的英國匯豐銀行購回，現藏於北京故宮。