1936年2月，紅軍東渡抗日。閻錫山將晉綏軍所有七個師的兵力編為四個縱隊，沿黃河一線設防阻擊。在關上村一戰，晉軍周原健全軍覆沒。閻連忙電請蔣介石救援。早想把自己的勢力伸向山西的蔣介石，隨即答應閻的請求，迅速派嫡系第十三軍湯恩伯部、關麟征第二十五師孔令恂部、李仙洲部，渡過黃河入晉。另派三十二軍商震部沿正太路赴太原救援，一共十五萬中央軍。在太原成立了晉、陝、綏、寧四省邊區「剿匪總指揮部」，陳誠任總指揮。
中共為了避免內戰擴大，回師陝北後發表《停戰議和，一致抗日》的通電，號召全國各界人士和國民黨政府，停止內戰，一致對外，組成抗日民族統一戰線。
按道理，這時蔣的十五萬中央軍應該撤出山西，但蔣仍賴在山西不走，企圖趁機削弱閻錫山的勢力，進而把閻擠出山西。
閻錫山為了「解除」最大的、最直接的、最現實的威脅的蔣介石在山西的駐軍了，不得不與中共以及進步人士進行一定限度的合作。
閻錫山曾說：「在三顆雞蛋上跳舞，哪一顆也不能踩破」。所謂「在三顆雞蛋上跳舞」，就是說和走鋼絲繩一樣，隨時都有掉下來的危險。所謂「哪一顆也不能踩破」，就是說他哪一方也惹不起，哪一方也要反對，但又對哪一方也得應付一下，搞點關係。
為爭取中共的支持，閻錫山曾表示：只要紅軍能撤回陝北，他就要使蔣介石的中央軍離開山西。他答應中共可以派代表、帶電台到太原談判。
閻認為只要他能打出「聯共抗日」口號，取得中共的支持，這樣既可以利用中共的力量與威信，動員群眾來對日作戰，暫保他的全部財產，又可以逼迫蔣不敢干涉山西的「內政」。
實際上，這時的閻錫山是既要聯共，又要在暗中防共、反共；既要抗日，又要在暗中和日、親日；既怕蔣、拒蔣，又要依靠蔣。
為此，閻錫山先於蔣介石提出了「守土抗戰」、「犧牲救國」的口號。
同年「九·一八」事變五週年紀念日，閻錫山在太原海子邊召開萬人大會，宣佈：「犧牲救國同盟會」(簡稱「犧盟會」)正式成立。「贏得」了各階層進步人士的支持和好評。
犧盟會成立後，在群眾中的影響和號召力都很大，報名參加的人也很多，但由於閻錫山的屬下竭力反對，受到的阻力也很大，工作並沒有完全開展。
為了通過犧盟會發展自己的勢力，閻錫山請薄一波回晉。1936年10月下旬，薄奉中共指示，從北平回到太原，以太原綏靖公署主任辦公室秘書的名義，到犧盟會任常務秘書，主持犧盟會的日常工作，自此，犧盟會快速發展起來。
「七七事變」爆發後次日，中共發出通電，號召「中國同胞、政府與軍隊團結起來，築成民族統一戰線的堅固長城，抵制日寇的侵略！」贏得全國人民熱烈擁護。
之後，中共向國民黨提交了《國共合作宣言》，希望由國民黨方面新聞機關早日發表，並派周恩來等同國民政府談判關於建立抗日民族統一戰線的問題。
在中共的呼籲下，蔣介石在廬山召開的各黨派第二次談話會上，宣佈對日抗戰，宣稱「地無分南北，人無分老幼，無論何人皆有守土抗戰之責任」，並承認陝甘寧邊區政府。
抗戰初期，當時由於日軍步步緊逼，短短幾個月，閻錫山的十幾萬舊軍隊，損失了七成，僅剩下兩三萬人；山西半壁河山陷入日軍手中，一些未淪陷的地區，政權也已處於癱瘓狀態。
迫於形勢，閻錫山為求得自身的「存在與發展」，不得不改變策略，變「防共反共」為「聯共抗日」，與中共和進步人士合作，希望利用中共的力量與威信，動員群眾對日作戰，以維持其政權。
但形勢的發展，遠遠超過他的估計。翌年2月28日臨汾失守，閻錫山退到陝西宜川縣桑柏村。
為了扶植其統治支柱——舊軍，為日後的反共、反犧盟會、反新軍在軍事上做好準備，他從陝西回到吉縣後，於1938年6月上旬，把他的各軍、師主要軍官秘密召集到吉縣古賢村開會，專就統馭方法和加強軍隊政治工作與配備力量等問題，作了佈置。閻錫山把聯共抗日路線變成了聯日反共路線。
1945年，日本宣佈無條件投降後，閻錫山為了利用日軍力量，搶奪地盤，搶佔太原，繼續反共反人民。8月30日，閻錫山在日軍的迎接下，回到太原。