西魏的實力幾年間迅速增強，固然托了侯景之亂的福，但宇文泰在國內如火如荼的軍事與文化改革，才是最關鍵的因素。呂思勉先生評價說：「從來北狄入中國者，其能否有成，恆視其能否通知中國之情形。以此言之，則爾朱榮不如高歡，高歡又不如宇文泰……（宇文）泰頗知治體。」
西魏的府兵制從河橋邙山之戰後開始建立，到文帝大統十六年（公元550年），已經基本成型。此時的府兵制形成了一整套完善的六柱國體系，六名柱國大將軍依次是：李虎、李弼、獨孤信、趙貴、於謹和侯莫陳崇。
西魏所封的柱國一共有八個，另外兩名是宇文泰自己和西魏宗室、孝文帝的侄子元欣，宇文泰總攬大權，位居眾人之上，而元欣的柱國身份，更多的是對宗室的安撫，基本上是個虛職，沒有多少實權，也沒有資格統領軍隊。六柱國的實權，是直接都督兩名大將軍。大將軍的戰功與資歷僅次於柱國，包括達奚武、李遠、楊忠等十二名屢次跟隨宇文泰出征的將領，這批人的實戰經驗也是相當豐富的。每名大將軍手下再統領兩名開府，開府就可以直接對士兵發號施令了，府兵的「府」，便源於開府。
這麼一個自上而下的軍事結構，是通過廣募豪強、擴整鄉兵組織起來的，如何才能夠有效地維繫呢？宇文泰的措施是：一、改郡望；二、改姓氏；三、物質的賞賜。
孝文帝遷都，將鮮卑大族的籍貫一律改為河南洛陽；原本世居北方的漢族門閥，又各有各的郡望。於是宇文泰就得面對一個大問題，手下的大部分將領乃至士兵都不是關中本地人，而是五湖四海的大雜燴。中國人一向講究歸葬故里，客居他鄉久了，不免會有這樣那樣的想法。宇文泰下令，凡是納入府兵系統的有功將領，以宗族為單位，統一改變籍貫郡望。一般的原則是，你目前在什麼地方效力，籍貫就改成什麼地方人。鮮卑人本來就對自己的洛陽籍貫沒什麼感情，再改到關中也不會太在意，而改變籍貫的漢人多數功勳卓著，這更是成了一種榮耀。將士們做了關中人，向心力得以加強。
改完郡望，宇文泰又在府兵將領中逐步推行改姓氏的政策，以消除各方人士的差異。孝文帝是改鮮卑複姓為漢族單姓，宇文泰以鮮卑人為主體建軍，就要反其道而行：對於鮮卑人，恢復原來的複姓，比如於謹，就改回原名，叫勿忸於謹；對於漢族將領，以賜姓的方式把單姓改成兩字或三字的鮮卑複姓，比如柱國中的李虎，改叫大野虎，李弼，改叫徒河弼，趙貴，改叫乙弗貴。與孝文帝的改姓不同，宇文泰的改姓是出於軍事目的，而非文化目的。賜姓的將軍手下統領的軍人，也統一跟著改姓。如此一來，並肩作戰的將士們不僅都是本地人，而且還是一家人，彼此的認同感也提高了。
光改郡望和姓氏還不夠，最終得靠物質和財富的激勵來鞏固府兵制度。宇文泰對立功將領的賞賜極其豐厚，包括農田、奴僕、牲畜、財物，其中最為重要的是農田，有了田地的將領，就是關中豪族。關中豪族在本地生根發芽，一個影響隋唐統治一百多年的關隴貴族集團應運而生。因此，宇文泰的軍事改革，在中國歷史上承前啟後，不容忽視。
府兵制剛剛成型，就發生了波折。身為六柱國之首的李虎，於大統十七年（公元551年）去世。
按理說，必須有人遞補柱國的位置，以保持六柱國的規模。朝中商議，由平定漢中的大將軍達奚武來頂這個缺。但是達奚武固辭不受，舉薦了另一個人選——義陽王元子孝。宇文泰接受達奚武的建議，把柱國大將軍的頭銜授給了元子孝。
元子孝與元欣一樣，是西魏的宗室，身為柱國，徒有虛名。經過此次人事變動，宇文泰對府兵有了更大的直接掌控權，這引起了皇族的忌恨。
西魏文帝與李虎同年去世，文帝心甘情願放權給宇文泰，得以善終，算是魏國末年唯一自然死亡的傀儡皇帝。繼位的太子元欽遠沒有父親那麼聽話，皇族與宇文氏的矛盾很快升溫，元欽繼位的第三年（公元553年），尚書元烈謀害宇文泰，意圖奪回皇權，計劃敗露，被宇文泰誅殺。
元欽愈發不滿，對宇文泰怨言不斷。宇文泰安插在皇帝身邊的耳目一通報，宇文泰也不含糊，直接把元欽廢了，立他的弟弟元廓為皇帝，並且乾脆把皇族的姓也改回拓跋。拓跋廓就是西魏的最後一位皇帝，魏恭帝。
宇文泰又改依周代的制度，取消魏帝的年號，稱元年。他參考記錄周代官制的《周禮》，改「品」為「命」（一品即九命），繼而搬用周代六卿的官名：天官塚宰、地官司徒、春官宗伯、夏官司馬、秋官司寇、冬官司空（六官的職權，大體上分別對應隋唐的吏、戶、禮、兵、刑、工六部），宇文泰自任大塚宰，其餘柱國分擔各官。這項制度，宇文泰讓蘇綽擬籌了好多年，蘇綽病逝，又由尚書右僕射盧辯接班完成。周製表面上是官名的變動，實質上確立了西魏獨特的文化體系。
整頓好內部，宇文泰便於魏恭帝元年（公元554年）十月，命於謹、宇文護、楊忠統率五萬精兵討伐江陵的梁元帝。
於謹料到梁元帝多疑少謀，肯定會坐以待斃。他在襄陽與蕭察的軍隊會合，長驅撲向江陵。
火燒眉毛了，梁元帝卻還沉浸在坐穩皇位的幸福之中。他素愛道家思想，興致甚高，升殿大講《道德經》，聽眾雲集。邊境戰報傳來，手下大臣們認為梁、魏修好，不可能憑空有軍事行動。梁元帝深感有理，不做軍備，繼續講經。等到魏軍兵臨漢水，梁元帝才意識到軍情緊急，徵調遠在建康的王僧辯，一切都太晚了。
於謹指揮大軍渡過漢水，分派宇文護和楊忠率領精騎兵抄小路佔據江陵南面的江津，堵住梁軍渡江的後路。然後，魏軍在江陵四周築起長圍，百道攻城。
梁軍奮力抵抗，可是江陵守兵太少，援軍又過不來。守城主將胡僧祐不幸中箭陣亡，外城被攻破。梁元帝無心再守，向魏軍獻上人質投降。
令人憤怒的是，梁元帝在投降前，命舍人高善寶把平生收藏的十四萬卷古今書籍付之一炬。這些書大多是手抄本珍卷，不少是孤本，梁元帝就這麼給燒了。他自以為讀書萬卷，乃至失敗。我看，讀書讀成梁元帝這樣，也真是活該失敗。只是這把火對於中國文化造成的損失，我們後人已無法估量了。
梁元帝想要自焚，被左右宮女拉住。有人勸梁元帝突圍逃往江南，梁元帝身體肥胖，行動不便，放棄了逃跑的機會。他換上白衣、跨上白馬，出江陵東門投降，一路上長吁短歎：「蕭世誠落得如此下場！」（梁元帝字世誠）
於謹沒有放梁元帝一條生路，他使出損招，把梁元帝轉交到蕭察手裡。蕭察想起兄長蕭譽之仇，氣不打一處來，上去就是一通毆打辱罵。發洩折磨夠了，蕭察命人用大土袋壓死了梁元帝（梁元帝的死法竟和簡文帝一樣，可歎梁國幾代君主，沒一個死得像樣的）。
梁元帝一死，於謹把蕭察安置在江陵，派專人「看護」，蕭察原先的封地襄陽則被西魏吞併。於謹沒搶著梁元帝的書籍，就把江陵的文士、珍寶、儀器（比如劉宋時代的渾天儀、梁代的銅晷表等等）集中起來帶往長安，並從江陵百姓中挑選十萬男女分賞三軍為奴婢，身殘體弱的統統殺死。北朝的經濟文化又一次獲得了巨大提升，而南朝文化遭受嚴重洗劫，從此一蹶不振。
蕭察眼看苦心經營多年的襄陽轉眼間換成一座空蕩蕩的江陵城，後悔也沒用了，家事國事到了這地步，只好老老實實當他的傀儡。不久，蕭察稱帝，定都江陵，以梁國正統自居，管轄範圍限於江陵方圓三百里的一州之地，奉西魏-北周為正朔，歷史上稱這個巴掌大的附庸國為西梁或後梁（需要提請注意的是，蕭察的後梁與五代朱溫建立的後梁，沒有任何聯繫）。
西魏盡取梁、益、雍、荊，版圖幾乎擴大了一倍，由三國中最小的一國，一躍成為面積最大的國家。