東漢末年，朝廷昏庸腐敗，在統治階級內部，宦官集團和官僚集團之間爭奪權力的鬥爭日益激烈。公元189年，漢靈帝駕崩，劉辯即位，史稱少帝。這時，中軍校尉袁紹乘機起兵，一舉誅殺大小宦官兩千餘人，從而結束了為時數十年宦官專權的局面。然而，由此也引起了天下大亂，各郡、州、縣出現了失控的局面。經過幾十年的兼併戰爭，最後出現了魏、蜀、吳三國鼎立的分裂局面。魏武帝曹操，霸主中原;昭烈帝劉備，稱雄西南;吳大帝孫權，割據江東。三國之間連年混戰，廣大百姓飽受禍害，有的流徙，有的死亡，村落破敗，戶口大減。《魏書·張繡傳》中記載說：「天下戶口減耗，十裁一在。」有的地方的人口甚至只有原來的幾十分之一。大量百姓死亡和流徙，全國連綿數百里的土地，完全荒蕪，無人耕種。連昔日富庶繁榮的京城洛陽附近，也變得蒿草叢生，百里不見人煙。曹操在一首詩裡說：「白骨露於野，千里無雞鳴。」就是這種荒涼景象的真實寫照。
司馬炎的祖父司馬懿，河內郡溫縣人，祖上許多人做過西漢的大官，是有名的望族，後來當上了曹操丞相府主管一切事務的主簿。司馬懿老謀深算，智慧過人。曹操死後，司馬懿歷任魏文帝曹丕、魏明帝曹睿兩代總管朝政的重臣，主管軍事，統率魏軍，同東吳、蜀漢對峙。蜀漢的諸葛亮智謀驚人，遇到司馬懿也不免有些顧忌。東吳的孫權對他顧忌更大，曾對人說：「司馬懿善用兵，可謂變化如神，所向無敵。」
公元239年，魏明帝死，8歲的曹芳即位，由司馬懿和曹爽共輔幼主。曹爽知道司馬懿實力比自己強百倍，對自己的威脅太大，所以，決定除掉司馬懿。司馬懿見勢不妙，便在曹爽輔政後的第8年，聲稱自己年老多病，力不從心，回鄉養病，但在暗地裡等待時機，伺機而動。曹爽認為司馬懿突然稱病肯定另有陰謀。曹爽的內線匯報說，司馬懿已經不能吃東西了，話也不能說了，頭腦也不清楚了。曹爽從此放鬆了對司馬懿的提防。
公元249年，曹爽陪伴魏帝曹芳到洛陽城南90里的高平陵去祭祀。佯稱重病的司馬懿利用這一時機，假借皇太后的懿旨，精神抖擻地在城內突然舉行政變，其長子司馬師指揮早已蓄養的3 000名敢死隊，關上洛陽城所有的城門，佔據武器倉庫，接管了守衛皇宮的禁軍。然後，又派主力衝出宣陽門，來到洛水浮橋邊上，殺氣騰騰地逼向祭祀人群。最後，魏帝終於迫於司馬懿的威逼，誅殺了曹爽。曹魏的軍政大權又重新轉移到司馬懿手中。
公元251年，司馬懿得病去世，他的長子司馬師任撫軍大將軍、錄尚書事，繼續輔政。公元254年，魏齊王曹芳已經成年，他不滿司馬師專權，與幾位大臣密謀除掉司馬師。由於走漏風聲，司馬師首先動手，誅殺參與密謀的大臣，曹芳也遭廢黜，另立年僅14歲的曹髦為帝。不久，司馬師死，他的弟弟司馬昭接任其職，朝廷裡的要事都必須經過司馬昭之手。隨著曹髦長大，成熟，他已經懂得朝政，感到魏朝天下岌岌可危，心中十分憤慨。
公元260年5月7日，曹髦命令宮中宿衛士兵，捕殺司馬昭。司馬昭派大將賈充率兵將曹髦殺死，然後脅迫皇太后出來說話，以掩蓋自己的弒君之罪。太后下詔說：「曹髦越大越不像話，竟用箭射向宮中要殺我，有的箭還掉到我的腳旁，他還狠心地用毒藥來害我，這種不孝不敬的人，早該死了！」這樣，司馬昭殺掉無德不孝之君的行為就成為合法的了。曹魏皇帝連續被廢被殺，改朝換代的氣氛一年比一年濃厚，司馬昭實際上已經掌握了皇權。但社會上還有相當一批人對這一局面很不滿意。司馬昭一邊收羅文人學士，為自己登基製造輿論，一邊積極準備征討三國之中力量較弱的蜀漢。
公元263年，司馬昭派大將鍾會、鄧艾、諸葛緒率兵18萬，進軍蜀漢。捷報頻頻傳來，魏帝曹奐下詔將司馬昭封為晉公，拜為相國，並賜「九錫」，即：最華貴的車馬、王袍似的衣服、樂器、朱紅色的門戶、有屋簷的台階、300名衛兵、先斬後奏的刀斧、表示征伐的弓箭、祭祀用的香酒。這九錫是古代帝位更替的前奏，往往先受九錫，再行帝位禪讓之禮。公元263年，蜀漢滅亡，司馬昭因功又封為晉王。
爭當太子「無為」治國
司馬昭基本上掌握了魏國的大權，魏國皇帝成了名副其實的傀儡。司馬炎是晉王司馬昭的長子，按照封建時代立嫡以長的制度，司馬炎本該是合法的王位繼承人，但其父司馬昭把小兒子司馬攸過繼給自己的哥哥司馬師為子，並打算立之為世子。司馬昭每次見到司馬攸，便拍著晉王的寶座對他說：「這屬於桃符(桃符是司馬攸的小名)的寶座。」寵愛之情溢於言表。正是在這種複雜的政治背景下，不甘寂寞的司馬炎開始了他爭奪王位的活動。
齊王司馬攸為人溫文爾雅、親賢好施，喜愛古代典籍，並且多才多藝，是一位有著濃厚的藝術氣質的儒雅之士。而司馬炎卻似乎是一個天生的政治家，他在氣質上幾乎完全秉承了父輩的天性，既有足以左右形勢的謀略，同時也有著一副寬厚仁慈的外表。總之，政治家的天性加上客觀上的優勢，使得他在複雜的宮廷鬥爭中游刃有餘。到晚年，司馬昭不得不以強大的政治理智克服個人情感，接受了大臣們的建議，立司馬炎為世子。
公元265年，司馬昭病死，司馬炎繼承了相國晉王位，掌握全國軍政大權。同年12月，經過精心準備之後，倣傚曹丕代漢的故事，為自己登基做準備。在司馬炎接任相國後，就有一些人受司馬炎指使勸說魏帝曹奐早點讓位。不久，曹奐下詔書說：「晉王，你家世代輔佐皇帝，功勳高過上天，四海蒙受司馬家族的恩澤，上天要我把皇帝之位讓給你，請順應天命，不要推辭！」司馬炎卻假意多次推讓。司馬炎的心腹太尉何曾、衛將軍賈充等人，帶領滿朝文武官員再三勸諫。司馬炎多次推讓後，才接受魏帝曹奐禪讓，封曹奐為陳留王。司馬炎於公元265年，登上帝位，改國號為晉，史稱為西晉，晉王司馬炎成了晉武帝。歷史有驚人的相似之處，魏王朝從曹丕讓漢帝禪位稱帝，傳了45年，到此結束。司馬昭也同樣讓魏帝以禪讓的手段獲取了帝位，魏國遂亡。但這時的司馬炎心裡並不輕鬆，他很清楚，雖然他登上王位寶座，但危機仍然存在。
從內部看，他的祖父、父親為了給司馬氏家族奪取帝位鋪平道路，曾經對曹操以後的曹氏家族以及附屬勢力進行了殘酷的屠殺，這件事所造成的陰影至今仍然橫亙在人們的心中。從外部看，蜀漢雖平，孫吳仍在，雖說此時的東吳已不足以與晉抗衡，但畢竟也是一個不小的威脅。內憂外患告訴司馬炎，要想鞏固政權，進而完成吞併東吳、統一中國的大業，就首先要強固統治集團本身的凝聚力，而要達到這個目的，就必須採取懷柔政策。為此，司馬炎在即位的第一年，即下詔讓已成為陳留王的魏帝載天子旌旗，行魏正朔，郊祀天地禮樂制度皆如魏舊，上書不稱臣。同時又賜安樂公劉禪子弟一人為駙馬都尉，第二年又解除了對漢室的禁錮。這不但緩和了朝廷內患———尤其是消除了已成為司馬氏家族統治對象的曹氏家族心理上的恐懼———而且還安定了蜀漢人心，進而為贏得吳人的好感，為吞併東吳取得了主動權。
為了盡早地使國家從動亂不安的環境中擺脫出來，為統一奠定牢固的基礎，無為與寬鬆政策成了西晉之初的立國精神。這種立國精神在國家的各種領域中充分地體現出來。公元268年，司馬炎詔書中明確指出：「為永葆我大晉的江山，現以無為之法作為統領萬國的核心。」同年，又向郡國頒下5條詔書：一曰正身，二曰勤百姓，三曰撫孤寡，四曰敦本息末，五曰去人事。當年，曹魏王朝的奠基者曹操繼東漢的動亂政治之後，為了安定人心，恢復國力，曾實行了比較寬鬆開放、節儉求實的治國方略。但到了曹丕，政治漸趨嚴厲，社會風氣亦腐敗，曹操當年的風範已不復存在。皇帝為了滿足自己的私慾，往往不斷把強大的物質重負轉移到百姓的身上，而長期的戰亂更使百姓在慘淡的生計之外，還在心理上增添了一種恐懼與疲憊之感。在這種情況下，司馬炎反其道而行之，提出無為而治的強國方略是最適合不過的。
擊滅東吳統一全國
西晉成立之初，晉武帝為了收買人心，大封功臣，許多大家族都被封為公侯。短短幾年時間，晉武帝共封了57個王，500多個公侯。蜀漢滅亡不久，晉武帝為了穩定巴蜀人心，又任用了一批原在蜀漢供職的官吏為朝官。晉武帝沒有採取「一朝天子一朝臣」的慣用手法，而是採取拉攏、收買人心的辦法，穩定各級官吏，以確保社會穩定地過渡。因為晉武帝還看到，蜀漢雖亡，東吳未滅，全國還未統一。於是他開始運籌帷幄，準備擊滅東吳，結束全國的分裂局面。早在三國鼎立之時，魏的勢力已超過蜀、吳，如以人口計，魏約佔全國人口4/7，蜀、吳合占3/7。公元263年，魏滅蜀之後，三國鼎立變成了南北對峙，魏的力量更加強大。晉武帝代魏之後，雄心勃勃，「密有滅吳之計」，準備出兵滅吳，統一全國。
西晉全國正處於一種積極的態勢之中，然而吳國卻是在走下坡路。吳主孫皓的荒淫、殘暴使吳國喪失了重整旗鼓的機會。孫皓命令大臣的女兒要先經過他的挑選，漂亮的入後宮供他一人享受，剩下的才能談婚論嫁，這使他喪失了大臣們的支持，自毀根本，最終成了孤家寡人。對他勸諫的中書令賀邵不但沒有受到他的表揚，反而被他用燒紅的鋸條殘忍地鋸下了舌頭，其殘暴程度與商紂王沒有任何區別。孫皓殺人的方法很多，很殘忍，像挖眼、剝臉皮和砍掉雙腳等。孫皓的殘暴注定了他要滅亡。由於孫皓的殘暴使手下的將領們也對他喪失了信心，紛紛投降西晉。西晉的大臣們見吳國國力下降，政局不穩，也紛紛勸說司馬炎趁機滅掉吳國。
但是，晉武帝受到了以太尉錄尚書事賈充為首的保守派的反對，他們認為：吳有長江天險，且善水戰，北人難以取勝。且近幾年來西鮮卑舉兵反晉，此時對吳作戰，並「非其時」。而羊祜、張華、杜預等人則認為：吳帝孫皓腐化透頂，他不但對廣大人民殘酷剝削、鎮壓，而且在統治集團內部也排除異己，用刑殘酷。孫吳目前是「上下離心」，如此刻出兵，「可不戰而勝」。如果錯過機會，「吳人更立令主」，勵精圖治，再去滅吳就相當不容易了。兩派意見，針鋒相對。這樣，一個極其嚴重的問題就擺在了晉武帝面前：是否出兵滅吳，統一全國？晉武帝意識到，自秦漢以來，統一已成為人類歷史的主流，廣大平民百姓要求統一，渴望和平。因此，晉武帝堅定地站在主戰派一邊。
為了完成滅吳大業，晉武帝在戰略上做了充分準備。早在公元269年，他就派羊祜坐守軍事重鎮荊州，著手滅吳的準備工作。羊祜坐鎮荊州後，減輕賦稅，安定民心，荊州與東吳重鎮石城(今湖北鍾祥縣)相距最近，晉軍採取了「以善取勝」的策略，向吳軍大施恩惠。由於孫皓揮霍無度，部隊士兵常常領不到軍餉，連飯也吃不飽。羊祜命人向吳軍送酒送肉，瓦解吳軍。這樣，不時有吳軍前來投降，羊祜下令說：吳軍來要歡迎，走要歡送。有一次，吳將鄧香被晉軍抓到夏口，羊祜部下堅持要殺掉，羊祜不但不殺鄧，而且還親自為其鬆綁，把鄧送了回去。有時，吳軍狩獵打傷的野獸逃到了晉軍領地，晉軍也把這些野獸送到吳軍帳內。正是由於這樣的「厚」愛，東吳將領們的心已經一步步趨向晉軍。
晉武帝在襄陽一邊命羊祜以仁德對吳軍施加影響，一邊在長江上游的益州訓練水軍，建造戰船。經過長達10年時間的充分準備，公元279年，晉軍開始向東吳展開大規模的進攻。為了迅速奪取勝利，晉軍分5路沿長江北岸，向吳軍齊頭並發。第6路晉軍由巴東、益州出發，沿江東下，直搗吳軍都城建業。20萬晉軍直撲東吳。東吳守軍，在巫峽釘下了無數個鋒利無比的、長十餘丈的鐵錐，在江面狹窄處用粗大的鐵鏈封鎖江面。晉軍先用大竹排放入長江，晉軍在船上載了無數根數丈長的用麻油澆灌的火點燃火炬，熊熊烈火能夠把鐵鏈燒斷。就這樣，東吳長江的防守設施被一個個排除了。
在第6路晉軍進攻東吳時，為了分散、吸引守衛建業的吳軍兵力，安東將軍王渾率一路晉軍，由北向南，直取建業。孫皓忙命丞相張悌統率主力渡江北上，迎擊王渾，結果沿江東下的晉軍乘機攻佔了建業。由於晉武帝準備充分，時機恰當，戰略正確，前後僅用了四個多月，便奪取了滅吳戰爭的全部勝利。從此，東吳的全部郡、州、縣，正式併入晉國版圖。公元280年，三國鼎立的局面完全結束了。晉武帝司馬炎終於統一了全國，結束了長達近百年的分裂局面。