先前唐太宗已經同意把衡山公主許配給魏征長子魏叔玉，這時也後悔了，下旨解除婚約。到後來他越想越惱火，竟然親自砸掉了魏征的墓碑——魏征是館陶（今屬河北）人，從小喪失父母，家境貧寒，但喜愛讀書，曾出家當過道士。隋大業末年，魏征被隋武陽郡（治所在今河北大名東北）丞元寶藏任為書記。元寶藏舉郡歸降李後，他又被李密任為元帥府文學參軍，專掌文書卷宗。
唐高祖武德元年（618），李密失敗後，魏征隨其入關降唐，但很長時間沒有得到重用。第二年，魏征請求去河北勸降，被批准。於是他來到黎陽（今河南浚縣），勸李密的黎陽守將徐世績歸降唐朝。不久，竇建德攻佔黎陽，魏征被俘。竇建德失敗後，魏征又回到長安，被太子李建成引用為東宮僚屬。玄武門之變以後，李世民由於早就器重他的膽識才能，非但沒有怪罪於他，而且還把他任為諫官之職，並經常引入內廷，詢問政事得失。魏征喜逢知己之主，竭誠輔佐，知無不言，言無不盡。加之性格耿直，往往據理抗爭，從不委曲求全。有時候，唐太宗聽得不是滋味，沉下了臉，魏征還是照樣說下去，叫唐太宗下不了台階。但是唐太宗不但不記魏征的恨，反而誇獎魏征說：「人家都說魏征舉止粗魯，我看這正是他嫵媚可愛的地方！」在魏征為官期間，他為唐朝貞觀年間的繁榮作出了很大貢獻。貞觀七年，魏征被封為鄭國公。
公元643年，魏征病死。唐太宗很難過，親自去他家弔唁，這在古代中國是至高無上的榮譽。
可是在魏征死後，一切都發生讓人瞠目結舌的變化。魏征在死之前曾經向唐太宗秘密推薦當時的中書侍郎杜正倫和吏部尚書侯君集，說他們有當宰相才能。可是在魏征死後，杜正倫因為負罪被罷免，候君集因參與謀反而被斬首。李世民開始就懷疑魏征這位他認為很老實的人在朝廷有因私營黨的嫌疑。
後來，唐太宗又得知消息：魏征曾把自己給皇帝提建議的書稿給當時記錄歷史的官員褚遂良觀看。唐太宗懷疑魏征故意博取清正的名聲，心裡很不高興。先前唐太宗已經同意把衡山公主許配給魏征長子魏叔玉，這時也後悔了，下旨解除婚約。到後來他越想越惱火，竟然親自砸掉了魏征的墓碑，一段君臣佳話，竟以此為終，讓人歎息。