玄武門之變後，有人向秦王李世民告發，東宮有個官員，名叫魏征，曾經參加過李密和竇建德的起義軍，李密和竇建德失敗之後，魏征到了長安，在太子建成手下幹過事，還曾經勸說建成殺害秦王。
秦王聽了，立刻派人把魏征找來。
魏征見了秦王，秦王板起臉問他說：「你為什麼在我們兄弟中挑撥離間？」
左右的大臣聽秦王這樣發問，以為是要算魏征的老賬，都替魏征捏了一把汗。但是魏征卻神態自若，不慌不忙地回答說：「可惜那時候太子沒聽我的話。要不然，也不會發生這樣的事了。」
秦王聽了，覺得魏征說話直爽，很有膽識，不但沒責怪魏征，反而和顏悅色地說：「這已經是過去的事，就不用再提了。」
唐太宗即位以後，把魏征提拔為諫議大夫（官名），還選用了一批建成、元吉手下的人做官。原來秦王府的官員都不服氣，背後嘀咕說：「我們跟著皇上多少年。現在皇上封官拜爵，反而讓東宮、齊王府的人先沾了光，這算什麼規矩？」
宰相房玄齡把這番話告訴了唐太宗。唐太宗笑著說：「朝廷設置官員，為的是治理國家，應該選拔賢才，怎麼能拿關係來作選人的標準呢。如果新來的人有才能，老的沒有才能，就不能排斥新的，任用老的啊！」
大家聽了，才沒有話說。
唐太宗不記舊恨，選用人才，而且鼓勵大臣們把意見當面說出來。在他的鼓勵之下，大臣們也敢於說話了。特別是魏征，對朝廷大事，都想得很周到，有什麼意見就在唐太宗面前直說。唐太宗也特別信任他，常常把他召進內宮，聽取他的意見。
有一次，唐太宗問魏征說：「歷史上的人君，為什麼有的人明智，有的人昏庸？」
魏征說：「多聽聽各方面的意見，就明智；只聽單方面的話，就昏庸（文言是『兼聽則明，偏聽則暗』）。」他還舉了歷史上堯、舜和秦二世、梁武帝、隋煬帝等例子，說：「治理天下的人君如果能夠採納下面的意見，那末下情就能上達，他的親信要想蒙蔽也蒙蔽不了。」
唐太宗連連點頭說：「你說得多好啊！」
又有一天，唐太宗讀完隋煬帝的文集，跟左右大臣說：「我看隋煬帝這個人，學問淵博，也懂得堯、舜好，桀、紂不好，為什麼幹出事來這麼荒唐？」
魏征接口說：「一個皇帝光靠聰明淵博不行，還應該虛心傾聽臣子的意見。隋煬帝自以為才高，驕傲自信，說的是堯舜的話，幹的是桀紂的事，到後來糊里糊塗，就自取滅亡了。」唐太宗聽了，感觸很深，歎了口氣說：「唉，過去的教訓，就是我們的老師啊！」
唐太宗看到他的統治鞏固下來，心裡高興。他覺得大臣們勸告他的話很有幫助，就向他們說：「治國好比治病，病雖然好了，還得好好休養，不能放鬆。現在中原安定，四方歸服，自古以來，很少有這樣的日子。但是我還得十分謹慎，只怕不能保持長久。所以我要多聽聽你們的諫言才好。」
魏征說：「陛下能夠在安定的環境裡想到危急的日子，太叫人高興了（文言是『居安思危』）。」
以後，魏征提的意見越來越多。他看到太宗有不對的地方，就當面力爭。有時候，唐太宗聽得不是滋味，沉下了臉，魏征還是照樣說下去，叫唐太宗下不了台階。
有一次，魏征在上朝的時候，跟唐太宗爭得面紅耳赤。唐太宗實在聽不下去，想要發作，又怕在大臣面前丟了自己接受意見的好名聲，只好勉強忍住。退朝以後，他憋了一肚子氣回到內宮，見了他的妻子長孫皇后，氣沖沖地說：「總有一天，我要殺死這個鄉巴佬！」
長孫皇后很少見太宗發那麼大的火，問他說：「不知道陛下想殺哪一個？」
唐太宗說：「還不是那個魏征！他總是當著大家的面侮辱我，叫我實在忍受不了！」
長孫皇后聽了，一聲不吭，回到自己的內室，換了一套朝見的禮服，向太宗下拜。
唐太宗驚奇地問道：「你這是幹什麼？」
長孫皇后說：「我聽說英明的天子才有正直的大臣，現在魏征這樣正直，正說明陛下的英明，我怎麼能不向陛下祝賀呢！」
這一番話就像一盆清涼的水，把太宗滿腔怒火澆熄了。
後來，他不但不記魏征的恨，反而誇獎魏征說：「人家都說魏征舉止粗魯，我看這正是他嫵媚可愛的地方哩！」
公元643年，那位直言敢諫的魏征病死了。唐太宗很難過，他流著眼淚說：「一個人用銅作鏡子，可以照見衣帽是不是穿戴得端正；用歷史作鏡子，可以看到國家興亡的原因；用人作鏡子，可以發現自己做得對不對。魏征一死，我就少了一面好鏡子了。」
由於唐太宗重用人才，能採納大臣的直諫，政治比較開明，而且注意減輕百姓的勞役，採取了一些發展生產的措施，唐朝初期經濟出現了繁榮景象，社會秩序比較安定，歷史上把這段時期稱做「貞觀之治」（貞觀是唐太宗的年號）。