環境清幽、隱蔽性強，足以應變突發狀況，是蔣介石選擇行館的共同特點。
但蔣介石行館雖多，究其根源，幾處最具代表性的住所，還是要追溯到日據時期，為迎接日本皇太子裕仁11天的「行啟」行程而興建的代表性建築。
當時日據「台灣總督」田健治郎積極鼓吹天皇赴台「行幸」，提前數年準備，花盡人力與物力，盛大準備迎接工作，並在景區興建多座行館，共花費100萬日元，相當現今新台幣10億元，但未料大正天皇因病無法成行，乃由攝政皇太子裕仁代行。22歲的裕仁因此於1923年4月16日在基隆登陸，成為唯一到過台灣地區的日本天皇。
田健治郎為方便裕仁休憩而修建的皇家建築，不但精緻豪華、用料講究，造型多依當時日本流行的日洋混合風格設計。例如草山御賓館、草山行館；日月潭邊涵碧樓擴建了8間貴賓館作為太子行館；阿里山祝山林道旁也修建了貴賓館。裕仁離台後，這批貴賓館成為日本皇族或政要到台旅遊時的落腳據點。
直到台灣光復，這批平日貴賓館連同其他各類事業單位招待所，改由國民政府駐台各單位所用，也成為日後蔣介石行館與台灣各類景區高級招待所的主體。
至於最早一批蔣介石行館，是在陳誠於1949年1月接任台灣省主席後，經請示蔣介石才開始準備的，共8處地點，包括澎湖兩處，以及台灣本島的台北、草山、大溪、日月潭、高雄、四重溪6個定點。由於蔣介石生活樸素，因此行館均維持儉樸擺設，格局承接日式風格，卻又有扶疏花木、綠地可供散心休憩，大致上各個行館的內部擺設與佈局頗為一致。較多的改建往往是因為宋美齡習慣西化居住、衛浴條件，所以必須稍作調整。因蔣宋作息習慣不同，通常兩夫婦起居分開；也常有禮拜堂，方便篤信基督教的兩人做禮拜。
從順序來看，澎湖第一賓館是蔣介石1949年在台海間觀望，乃至決定抵台長駐的第一個據點，本是日本海軍招待所。之後蔣介石從南台灣上岸，在同樣接收自日本海軍招待所的西子灣賓館駐留，思考戰略佈局。6月間，蔣介石離開高雄北上，先後住過大溪行館與台北草山行館；前者是日據時期桃園公會堂，後者也是日據時期即有的貴賓館。
一方面，從1949年到1950年中期，蔣介石四處奔波，徒勞無功，自不會有心情大興土木。另一方面，當時蔣介石更想著能否藉機會打回大陸，大力倡導「三年反攻」論點，號召來台外省軍民無須置產、買地，也沒心思在台灣蓋新房或另辟行館，因此沿用日據時代皇族招待所作為休憩密商場合，絕對其來有自。1950年中，蔣介石定居士林官邸，其前身也是日據時期的士林園藝試驗分所。
尤其當時解放軍咄咄逼人，隨時有跨海一戰的可能，美國人已展開撤僑行動，徹底看衰蔣介石的掌控力，台灣政局動盪，蔣介石主要利用在行館休息或沉思時間與幕僚或重臣商議大政，做出不少重要決定，涵碧樓等地因此成為兩岸與台灣歷史的重要舞台。
換言之，在心態上，蔣介石還是明顯的過客，雖然狼狽，他還在期望政局有奇跡出現，即便入住草山或士林官邸，不過是他在台暫居的場所，是臨時為接待來訪政要而興辟的招待設施，並非想就此在台灣落地生根，也還沒有出現直把他鄉當故鄉的無奈。
只是度過了20世紀50年代初期的動盪，靠著朝鮮戰爭爆發重新與美國接上線，蔣介石在台灣局面穩定下來，偏安局面已成，流亡海外的想法似乎已成明日黃花，蔣介石與親人在各地行館團聚共享天倫的場面，似乎越來越成為生活的重心。相較之下，各單位為招待蔣介石巡視而設的行館也如雨後春筍般慢慢浮現，希望讓蔣介石公忙之餘，借散心撫慰鬱悶。
如角板山、大溪等地，之所以能讓蔣介石流連忘返，主要因為當地風光頗似奉化溪口，等於禁錮在台灣這座孤島的蔣介石，借此宣懷思鄉之情。雖然為因應大陸方面原子彈試爆成功，多處重點行館都加裝了反核爆裝備與戰時緊急指揮設施，但在美國杯葛之下，「反攻大陸」漸成口號已是不爭事實，蔣介石心知肚明，只是沒有說破而已。
與蔣介石根源最深的慈湖行館，便是在此背景下應運而生。當年蔣介石路經慈湖，深覺地靈人傑，風光頗似溪口，因此主動提供圖樣與設計想法，倣傚奉化祖屋，在桃園鄉間蓋起了這棟以居家為核心理念的四合院式行館，其型式也是全台獨一。或許，慈湖行館只是反映了蔣介石內心最深的無奈，他此生再也無從重回故里，因此他才要在異鄉孤島重建故鄉點滴記憶。只是沒想到蔣介石去世後，此處竟成他靈柩暫厝之地。
相較於蔣介石的排場，蔣經國作風更為隨和，幾乎無處不可住，除鮮少為休假入住行館，且不敢擅住蔣介石用過的房舍外，幾乎沒什麼禁忌。例如他除代表蔣介石定期問候在台政要耆老，也受命四處巡視軍隊，蔣經國多半選擇住現成部隊營舍，不但安全防務緊密，行蹤隱蔽，也無須做太多特別安排，只是各部隊時常會把招待蔣介石與蔣經國的房舍空置下來，以備未來「兩蔣」視察不時之需，也因此台灣各營區目前仍有不少「總統行館」可供憑弔。