魏徵像唐太宗執政公開嚴明，鼓勵大臣直諫，所以他手下有許多敢於直言進諫的大臣。而在這些諫臣中，最突出的當屬魏徵，他經常進諫，提出過許多很好的建議，甚至常常與李世民當面爭執，即使李世民大怒，也還是神色不變，堅持自己的看法。
公元626年，李世民下詔徵兵，規定不滿十八歲而個頭高大的男子，也可以征。魏徵卻扣住了這道詔書不發，太宗連催幾次，他都不理。李世民大怒，召來魏徵訓斥他大膽抗旨。魏徵鎮定地說：「臣聽說竭澤而漁，就無魚可捕了。陛下將不滿18歲但身強力壯的男子征來當兵，以後再到哪裡去徵兵呢？再說，國家的賦稅讓誰來負擔呢，並且陛下以前宣佈18歲以上的男子才征，現在的詔書一下，你不是失言於天下嗎？」李世民聽了，啞口無言，良久，才承認自己錯了，撤銷了這道詔書，還提升魏徵為太子太師。
一天，李世民正在逗弄一隻小鷂(即雀鷹，比鷹小，可幫助打獵)，見魏徵進來，怕他責怪，忙將它藏在懷中，魏徵裝作沒看見，向太宗奏事，又故意拖延時間。等他離開，小鷂已經悶死了。
還有一次，太宗退朝回到宮中，怒氣沖沖地說：「總有一天，我要殺死這個鄉下佬。」長孫皇后忙問殺誰。太宗說：「魏徵常常當面頂撞我，使我難堪。」長孫皇后就退出去穿上禮服再進來，向李世民道賀道：「君主聖明，臣下才敢直言進諫，魏徵敢於當面頂撞陛下，說明陛下是聖明之君，臣妾怎能不向陛下祝賀呢？」李世民聽了皇后委婉的批評和規勸，怒氣頓消，清醒地認識到虛心納諫對於天下興亡的重要性。
貞觀中期以後出現了盛世，大臣都極力歌頌李世民，只有魏徵保持著清醒的頭腦，給李世民指出了10個缺點，要他警惕。李世民就鄭重地將它抄在屏風上，以便早晚閱讀，引為戒鑒。
公元643年，魏徵病死，李世民十分悲痛，說：「以銅為鏡，可以正衣冠，以史為鏡，可以知興替;以人為鏡，可以明是非。魏徵一死，我失去了一面鏡子。」