李彪，字道固，頓丘衛國人，名字是魏高祖賜予的。家中世代寒微，少小甭貧，素有大志，好學不倦。開始受學於長樂監伯陽，伯陽相當賞識他。晚些時候與漁陽高悅、北平陽尼等人準備隱居於名山，不能成行便只好作罷。高悅與兄高閭，博學高才，家中富藏典籍，李彪於是在高悅家中手抄口誦，廢寢忘食。既而還歸鄉里。平原王元睿將及成年，雅好學業，娶東徐州刺史博陵崔鑒的女兒為妻，取道冀州、相州，聽說李彪的名聲便去拜訪他，二人修結師友之禮，郡中傳為美談。於是李彪被推舉為孝廉，到京師學堂中修習學業。高閭在朝中官員中稱讚表揚他，李沖待李彪很是客氣，李彪便牢牢攀結李沖。
高祖登基初年，李彪任中書教學博士，後來假員外散騎常侍、建威將軍、衛國子，出使蕭賾。遷任秘書丞。參與著作事宜。魏自成帝以來至於太和年間，崔浩、高允等人著述《國書》，編年序錄，依照《春秋》體例，《國書》中遺漏的史實，以至三件中有二件被漏掉。李彪與秘書令高..開始上書奏請依照司馬遷、班固史書的體例，創為紀、傳、表、志諸項目錄。李彪又上書說：
「臣聽說過去的賢哲君王，無不勤勉不已，孜孜以求，思考納受直言，以求造福百姓。所以他們訪求童稚，詢問師長，不避山高路遠，詢求謀略諮問善德，不棄貧賤之人。取其能夠光大茂實於竹帛之中，傳播徽聲於金石之上。臣正生於有道之世，恰逢無可諱言的聖朝，敢修以往程式，竊考現下所宜，謹冒死上密封的奏章，言事七條。一派胡言，伏待刑戮。
「其一是：自從太和建號，到此已經十二年了，典刑德政，可以述說了。立園丘以昭明孝思，則百神不乏供饗了；舉賢才以備問，則賢士盈滿於朝；開至誠之心以接萬物，則朝廷便無奸佞之人了；敦揚君義、臣行、父慈、子孝、兄愛、弟敬六順以教人，則四門之中都無凶頑之人了；制冠服以明官秩，則典章法式又能彰明瞭；作雅樂以協調人倫，則人與神交互為慶了；深慎重刑罰以明刑戮，則監獄之中亦無冤屈了；薄減衣著食味以示儉約，則天下風向節省了；放出宮女配嫁鰥夫，則人們便無怨憤曠怒了；傾出府藏以賑濟萬民，則天下饑寒便普受飽暖了；省減賦稅徭役以養育萬民，則編戶之民逍遙巷歌了；宣明德澤以懷遠近，則荒遠之地都向皇魏了；垂示至德以暢幽顯，則會使天降祥瑞了。天下百姓得其所，萬事萬物惟其新，巍巍乎天下萬物盡匯其成了。然而，為臣愚魯，認為行儉省之道，仍然欠缺。為什麼呢？而今士、農、工、商豪富之家，習慣奢華既已深篤，敦好樸素其情甚淺，他們仍未認識儉約便可細水長流，而務求奢侈浪費便難以維持長久。宅第壯麗，車馬豪華，奴僕妾婢穿著綾羅綢緞，土木之上紋龍繡鳳，越級違制的非常之多。古來先輩哲王立下制度，自天子到公卿，下及守門打更的小辟，他們的宮室車服都各有差別，職位小的不得越級至大，身份卑賤的不得越級至貴。像這樣，所以上下秩序確立而人心便很穩定。而今浮華相競，人情沒有常守之處，大造消功之物，巨製費力的事，豈不是很荒謬嗎！消功的，是指的錦繡雕文的東西；費力的，指的是廣宅高堂、壯制麗飾之類。這些妨礙男務本業、損害女為其工的，哪裡說得完啊！漢文帝時，賈誼上疏說『今天的王政可以長歎息的有六個方面』，這就是其中之一。大凡皇上所好，下面人必定跟從。所以越王好勇而士人多輕視死亡，楚靈王喜好貧瘠而國中有飢餓之人。今天二聖躬行節儉樸素，詔書旨令慇勤不斷，而百姓之中奢靡之風猶未革除，這哪裡是楚、越之人如彼易變，而大魏之士如此難以變化的緣故呢？這大概是朝廷制典沒有宣明，人們未見皇德，才導致這樣的情況吧。為臣愚魯，認為宅第車服，自百官以至於平民百姓，應該在衣著等級上立定制度，以使貴顯不逼賤卑，微賤不越至高制，不能讓人為顯示自己的奢華，便默認他們違反經典。而今也許有人說奢華越級的風俗已久，不能一下子革除，臣謹陳述古人漸進革新的例子。過去，子產為政一年，老百姓唱道：『我們有田地，子產伍之，我有衣冠，子產貯之，誰殺子產，我也參與。』三年後，歌詞改為：『我有田產，子產植之，我有子弟，子產教之，子產若死，其誰繼之？』這樣看來鄭國人的智力，難道前面昏憒而後面聰明嗎？其實是從政的人必須循序漸進，而受教化的人難以一下子幡然頓悟的緣故，如今若立制度以區別品級，始末之情，魏人與鄭人也會一樣。既與鄭人相同，那就是說最終百姓是會說好的，我們豈能怕他們一開始的怨憤而不做最終的善舉呢？大凡崇尚儉樸的是開福祿之源，喜好奢侈的是引起貧窮的徵兆。然而儉約容易以教化流行，而奢華難以對財貨感到滿足，正因為如此，所以聖德之人留心於此，賢敏之士希求一個標準。所以夏禹卑小自己宮室而厭惡華麗衣服，殷湯起居陋室而乘坐簡車。這是先輩哲王對後來君王顯示儉約，後王理應觀其意而取合適的標準。孔子任魯國司寇，乘坐柴車駕馭駑馬；晏嬰任齊丞相，戴洗過的帽子穿破舊的衣裘。這是對後來的臣子顯示儉約，後來的臣子們應該認識其情愫而以他們為榜樣。前志說：『作法於涼地，其貪弊仍行。』這句話雖然簡略，但卻達於治理之道。臣一派胡言，倘使有可採用的話，等到了三年，便可有所成效。有成效則人務其本，人務其本則奢侈浪費便可去除，費奢去除則糧食布帛便豐富起來，谷帛豐富則人們便安逸快樂，人們安逸快樂則皇帝基業便可以穩固了。
「其二說：《易》稱：『主掌祭器的，莫如長子。』《傳》說：『太子奉持塚嫡立的資糧很多。』然而，祭祀無主則宗廟諸神便無所饗，塚嫡廢則皇朝政權神器就無所傳。聖賢之人知曉其中道理，所以垂示誥詔以為長久法典。過去，姬王深明此道，所以大崇儒術以訓導世代嫡傳，他們於是演習養成美好的德行，以其調理黎民百姓，因此世世代代統治天下，傳世八百年之久。等到嬴氏建立秦朝政權，終而放棄德政，焚坑儒家典籍，不以禮義教誨其子，於是後代們養成凶狠的本性，殘酷地對待生民百姓，所以政權不能鞏固，到秦二世便滅亡了。國家滅亡與興盛，其道理在於師傅，師傅損益的做法，可以說說。增益的，周公為周成王師傅，以孝仁禮義教導他，逐去成王身邊的奸邪之人，不讓他見到惡人，選擇天下的端方之士、孝悌博聞有道術才幹的人為他的輔佐之臣。身邊的輔臣良端，成王自然端正了，因此周家天下恆固長久。損減的，趙高為胡亥的師傅，趙高專教胡亥以刑戮斬殘以及夷滅人家家族，逐除他身邊正派臣屬，讓他不能見到善良人士，諂佞讒賊之類的人圍繞左右。左右邪惡，胡亥邪僻，秦朝國運因此短暫。而皇天，輔德之物，哪會偏愛周代而疏遠秦朝？這全都由其所行的道路不同，所以禍福的途徑也不同而已。從前光武帝議為太子選擇老師的事，他問群臣，群臣體會皇帝本意，都說太子的舅舅，執金吾、新陽侯陰就可以。博士張佚義正辭嚴地說：『今天立太子是為陰氏呢？還是為天下？如果為的是陰氏，則陰氏便可為其老師；如為天下，則毫無疑問應當用天下的賢才。』光武帝點頭稱好，說：『設置師傅，是輔佐太子的。而今博士您教了我，何況太子呢？』立即拜張佚為太子老師，漢明帝終而成為一代賢主。然而張佚成為漢明帝的師傅，並非他的漸進所致，尚且可稱道，何況他訓之以正道，其好處當然就更大了。所以《禮》說『太子出生，舉之以禮，讓人抱著他，有關部門的官員齊肅端冠，見太子於南郊』，這是昭明嫡傳長子的重要性，以讓上天明察。『經過皇闕則下車馬，經過宗廟則小步急趨』，明示孝敬的道理。這樣古代的太子有『自己是赤子，而教化便自然而然地流行了』。這乃是遠世的鏡鑒。高宗文成皇帝感慨少時老師誨教不勤，曾經對群臣說：『朕剛開始學習時，年尚幼小，感情未能專一，既臨萬機之後，沒有時間溫習，現在想起來，哪是我一個人的過錯，也是師傅教我不勤所造成的啊。』尚書李斤脫帽謝罪，這就是最近可為借鑒的事實。臣思太皇太后翼贊高宗，訓成顯祖，使其巍巍之功超越前代君王。陛下您幼小時蒙受勤誨，登上皇極，等到太子誕生，您又親加撫教，日省月課，實在勞神太過。現在實在應該依照古式設立師傅以訓導太子，訓導正確則太子自正，太子正則皇家慶福，皇家慶福則百姓受其大幸了。
「其三是：國家之本是黎民百姓，人所憑借的是米飯粟糧，因此古代賢哲君王無不勤勸耕種，滿蓄倉庫。所以堯湯時遇水旱之災，人無菜色者，是由於備糧有漸，素有積食所致。到了漢代，以人糧食短少，於是設置常平倉以供給百姓糧食；曹魏時因兵糧缺乏，建立屯田制以供兵糧。取其不匱乏當時，軍隊國家都受到接濟。又《記》說：國家沒有三年的儲備，就叫國非其國。光武時因一畝沒有收成，便罪責牧守。聖人的憂世重谷，慇勤勉力是如此之甚，明達君王體恤百姓勸人農耕，切切如此。前年太行山東饑荒，去年京城饑廑，內外之人紛紛跑到豐產的地方，荒棄本業，歷盡辛苦才到目的地，這樣又有損於國家的形象。如果先多積些糧食，到時就開倉賑濟，安撫民眾，哪會出現荒情驅使老百姓餬口千里之外的景象呢？以今比昔，實在令人害怕。臣認為應該分出州郡正常調稅的九分之二，京都用度每年的餘額，各各設立相應機構，豐年時立倉積糧，歲饑時加私之二，放糧於人。像這樣，老百姓必定努力耕種以買官布，又力求貯財以購官糧，年豐則經常聚積，歲凶則開倉濟接。又另立農官，選取州郡戶民十分之一為屯田之民，選擇合適的地方，分給一定的田地，配給他們相應的錢財雜物牛馬等，讓他們勉力耕種。一名農夫所耕的田地，每年上交六十斗，免除他們的賦稅並征戰戍守雜役。推行這兩件事，那麼數年之中，就會谷多而人足，雖有災情便無危害。臣又聽說前代明主，都務懷遠方之民，禮敬賢士招引滯人。因此，漢高祖經過趙國，求得樂毅為用；晉武帝定天下，用吳、蜀有才學之人。臣認為聖上應在黃河兩岸七州郡人中，挑選人才，令其入朝，依照中原官員品級，按其才能授予官職。這樣，一者可以拓廣聖朝新舊人員一律平等相待的義旨，二者可以引江、漢人士歸順有道皇魏之心。
「其四是：過去舜帝命咎繇思刑罰的寬貸，周公告誡成王不要誤了監獄中的事，這君臣相誡的事實，都表明了十分重視刑罰。而今，二聖哀憫憐惜罪辜之人，小大之情，判決之日，聖上多從降恕，實在不得已時，也必定垂示惻隱之情，即使前代君王勤聽訴訟動輒赦免，也不過如此而已。然而行刑有犯時氣，愚臣私下未能安心。漢制，舊時斷決獄訟報請上級，常在十一月完結，到孝章帝時改為在十月完結，以育三正。後來遭受乾旱，議論的人說因十月斷決獄訟，陰氣微少，陽氣洩出，因而致旱。此事交付公卿、尚書陳寵議論說：冬至陽氣開始萌生，所以十一月有射干、芸、荔之應，周朝以本月為春；十二月陽氣上通，野雞鳴叫雞孵小雞，殷商以本月為春；十三月陽氣已至，蟄伏的蟲子都開始鳴叫活動了，夏代以之為春。三正成著，以通三統，三統的月份中，斷獄流血，這是不察蒼天旨意。《月令》：仲冬之月，身欲安寧，事欲靜平。這個月中生起大怒，不能稱為安寧；行大的刑罰，不可稱為靜平。章帝覺得他的話說得很對，終在十月斷獄決訟。而今京都及四方斷獄報重，常常完於冬季，不推尋三正以育養三微。寬釋宥赦之情，常超過往昔；遵守時令之憲，猶且或有欠缺。這哪能叫助陽發生、垂奉微之仁呢？的確應該遠查周朝典制，近采漢代典章，令天下斷決獄訟，起自初秋，盡於孟冬，不在三統所屬的春天，行使斬絞之刑。像這樣，就可道協幽顯，仁垂後代了。
「其五是：古時，大臣有因不廉潔而被廢棄的，不叫不廉，而叫....不飾，即為官不廉正的意思。這就是為君之人禮敬顯貴之臣，不明說其過失。臣有大過，則白冠..纓，盤水加劍，前往宮廷而請死，這是為臣的知罪而不敢逃脫刑罰的行為。聖朝禮遇大臣，與古時相同。自太和以來，有負罪應當處以極刑的，多能夠歸還自己第宅而自盡。遣出之日，聖上深垂隱憫，言出淒切，百官無人不見，四海之內無人沒聽說。過去漢文帝時，有人告發丞相周勃謀反，立即把他逮捕送到長安獄中，鞭打拷問與奴隸們犯罪受到的待遇沒有兩樣。賈誼於是上書，極陳君臣大義，認為不該這樣。大凡顯貴之臣，天子為其改容而禮貌相待，吏人為其俯伏而敬重貴視，他們有了罪過，廢棄是可以的，賜死是行的。但如捆起他們，送至刑官，棒擊鞭笞，小吏惡謾罵，這就不是讓老百姓都看得過去的行為了。等到將要行刑，臣子則面向北再拜君主，跪而自裁。天子說：『你士大夫自有過失，我對你仍然有禮。』君主不讓別人抑鬱而受刑戮。孝文帝深為採納賈誼之言，此後，大臣有罪，都自殺而不受體罰。到孝武帝時，大臣有罪又漸漸交付監獄，實在是由於孝文帝行之當時，而不立下永久典制的緣故啊。臣思陛下聖德慈惠，豈是當年漢文帝所能比擬的。而今天下有道，百姓不議朝政之時，臣可以安然陳述胡言於朝，但臣擔心萬世之後，繼位之主萬一有像漢武帝時那樣的事情。夫道貴在長久，所以憑之建立影響；法以不虧損為上，所以留給其子孫謀略也，哪能只是行恩一時，而不作永久之制呢？
「其六是：《孝經》稱：『父子之道本是天性。』《尚書》說：『孝，是指孝友於兄弟。』二經的意旨，都是說父子兄弟是一體同氣，可共而不可離也。等到其人有罪，罪不及其親，這是君上的厚恩。至於害怕，這是怕受到牽連，這本是自然的恆常之理。無情的人，父兄逮捕至獄中，子弟沒有悲慘怵惕的表情；子弟逃避刑罰，父兄沒有慚愧羞赫的面容。食飽寢安，榮耀其位，遊玩自若，車馬仍華，衣冠華麗，哪是同體共氣、同分憂患的樣子呢？過去秦伯因楚人圍江，素服以示擔心；宋仲子因為失舉桓譚，免冠而請罪。然而子弟之於父兄，父兄之於子弟，其情更近，哪裡又是結盟相知的人而可以說其感情深淺呢？二聖清正簡肅風俗，孝慈當為其先。臣愚認為父兄如有犯罪，應該讓其子弟素服肉袒，到官府請罪；子弟犯罪，應讓父兄露板引咎，乞解所司。如職位責任必需，不宜這樣做，有關部門慰勉留之。像這樣，便足以促使平凡淺薄之人，使人們知有所恥了。
「其七是：《禮》說：『臣有大喪，君三年不呼其門。』這是聖人根據人情制定的禮制，為的是讓孝子終其孝情。周代衰落，喪禮漸亡，所以服喪的人前去打仗，素冠之士動起兵刃，到了暴虐的秦代，這些禮制都遭泯滅了。漢初，戰事頻起，未能遵古。到漢宣帝時，老百姓應當從事軍事屯駐的，碰到祖父母、父母死亡，喪期沒滿三個月的，都不從事徭役；其朝臣遇到喪事的禮制，沒有定聞。到後漢元初年間，大臣遇到大喪，開始能夠離官服喪。及魏武、孫權、劉備之世，日日干戈，前代禮制又廢而不行。晉時，鴻臚鄭默喪親，堅決要求回家服喪，武帝被其孝誠所感動，於是制定律令立下喪服常制。聖魏初年，撥亂反正，未及建立終喪之制。而今四方無憂，百姓安逸，的確是孝慈道合、禮教興起施行之日了，然而愚臣心中所懷，仍有未盡。臣見到朝臣服其父喪的，期滿赴職，衣著錦繡，乘坐麗車，跟從君主祭祀郊廟，鳴玉垂委，同參節慶之宴，傷害作為人子之道，損壞天地大倫。愚臣建議如果有人遭受祖父母、父母亡喪之禍，都讓他們終其喪期。如一時找不到合適的人來代領其官職，就優旨慰喻，讓其視事，但只是讓其處理奏陳本部事務而已，國家吉慶之類的喜事，一律免讓他們參加。而烽煙警起，戴孝從軍，這雖然有損喪禮，但也是可以理解的。如果為臣之言稍有可以採用的，願請聖上交付有關部門制定相應制度。」
魏高祖看了十分高興，不久這些建議就都得到施行。
李彪漸被聖上禮遇，加授中壘將軍。等到文明太后逝世，群臣請求魏高祖守喪三年，高祖不同意，與李彪往復論議，事情記在《禮志》裡。高祖下詔說：「縱觀古事，求能並非一途。或是承借微蔭，著德當時；或是被拔選於幽陋，而至流名於後世。因而毛遂起自微賤，奮發抗楚之辯，只要有才能，何必拘泥於出身。李彪雖不是出身名門。本來缺少華貴的資本，但他識性嚴整聰捷，學識博及典籍，剛辯之才，頗堪時用，加上憂吏如其家，乃宣我朝之美，如不嘉賞其行為，敘錄其功績，那憑什麼勸勉獎勵勤勞能幹之人呢？可特進秘書令，以酬答他的款誠。」因他參預議論律令的勤勉，皇上賜給他帛五百匹、馬一匹、牛兩頭。
這一年，朝廷加授他為散騎常侍，出使蕭賾。蕭賾派他的主客郎劉繪接待對答，並且擺下宴席音樂。李彪辭退音樂。到坐時，李彪說：「齊主既賜宴樂，以勞慰遠行之人，適才我辭退音樂，你或許還未體出其中意思。自從我魏喪禮廢替，到現在已經很久了，我皇孝性自天，追思想慕沒有盡止，所以有今天喪除之議。服三個月的喪，朝中官員才開始除去孝衣，但仍身穿素服處理政事。裴、謝二公在此，臣理應把原因告知，我今日辭去音樂，想來你們不會見怪吧。」劉繪回答說：「辭樂之事，本不驚異。請問魏朝喪禮，它是依據什麼？」李彪說：「高宗三年，孝文..月，而今聖上追念養育的深恩，感謝慈訓的厚德，服喪之禮依秦、漢之間禮制，可以說是得禮之變。」徐繪又問：「如要依古，為什麼不終三年喪期？」李彪說：「對於皇帝來說，國家大事不可久曠，所以割捨至慕之情，聽從朝臣之議。喪期不外乎三年，而今只服三個月，此可謂無禮之禮。」徐繪說：「叔氏太差勁了！專門以禮來要求別人。」李彪說：「聖朝自為絕代的禮制，它關係到許多人。」徐繪說：「文武百官總已聽從塚宰調遣，萬機有什麼可擔心它陷於曠怠呢？」李彪說：「我聽典籍上說：『五帝的臣子，臣不如君，所以君主親自獨攬天下大事；三王君臣智力相當，所以君臣共理天下機務；五霸臣子智力超過君主，所以事情由下面決定。』我朝衙門內都是當年五帝那樣的臣子，君主親攬大權，是遠效軒唐做法。」李彪將要還朝，蕭賾親自對他說：「卿你前番出使還魏之日，賦答阮詩說：『但願長閒暇，後歲復來游。』今天你果然來了。卿此次還朝，以後還會來嗎？」李彪回答說：「使臣我請賦阮詩：『宴衍清都中，一去永矣哉。』」蕭賾神情茫然地說：「清都可爾，一去何事？觀卿此言，似成長闊，朕理當以特殊的禮節相送。」蕭賾於是親自到琅笽城，登山臨水，命群臣賦寫詩歌送別李彪，可見蕭賾是多麼看重他。李彪前後六次銜命出使，南方政權的人驚奇他的正直。
後來皇帝車駕南征，假李彪冠軍將軍、東道副將，不久又假征虜將軍。車駕還京，遷任為御史中尉，領著作郎。李彪既被魏高祖所寵幸，性格又十分剛直，於是屢屢彈劾糾肅朝臣，遠近之人都很怕他，豪強也不敢妄動。高祖常常喊彪為李生，從容地對群臣說：「我有李生，就像漢代有汲黯一樣。」汾州胡人叛亂，皇帝下詔讓李彪持節慰安，事情平息，李彪還京之後，朝廷又除任他為散騎常侍，仍領御史中尉一職，解其著作事宜。高祖在流化池宴請群臣，對李沖說：「崔光的博大，李彪的正直，是我們國家求得賢才的基礎。」
皇帝車駕南伐，李彪兼任度支尚書，與僕射李沖、任城王等人共同處理國家日常事務。李彪生性剛強豪倔，與李沖等人意見有不合的地方，便在臉上嘴上表現出來，毫無退讓的意思。他自稱自己身為法官，無人能夠糾奏彈劾自己，於是便經常專橫恣肆。李沖積數李彪前後所犯的罪過，便在尚書省衙門內囚禁起李彪，上表皇帝說：「臣聽說范典國家、匡治百姓，光化升治、輿服典章，理應無一時閃失。所以晉文公功建九合，猶且被迫在隧道中與其母相見，季氏三代執政，猶在操守問題上受人譏諷。天下固知名節操守的重要，所以不能夠虛妄作假。先王既在先時建立憲章，陛下又在今天按之治理，都是為了做到車馬服飾有序，禮儀萬物沒有廢落。今按查李彪過去身份平平，因才特受提拔，名耀清貴，在東觀司掌文書，頻受聖上恩寵，糾奏朝中官員，左加金..，右授蟬冠。(有缺文)李彪理應感恩勵節，忠心報德。然而他竊取名聲忝居職位，立身高傲，仗勢剛倔，無法無天。禁中省內，坐車而行，冒取辟材，駕駛四匹馬拉的車，毫不顧忌憚怕。肆意妄為，傲視人物，愚弄視聽，這都可以容忍，還有什麼不能寬容？臣召集尚書以下、令史以上官員，加上治書侍御史臣酈道元在尚書省聚集，以李彪所犯的罪行狀告李彪，訊審其虛實，如他有不知的，必須審問其部下。李彪回答說：『事實你們都已知道，實際情況如其所彈劾，這些我都知道，還有什麼必要召審我的部下。』為臣今日請求以這一事實，免去李彪所居官職，交付刑官審判。」
李沖又上表說：
「臣與李彪相識已經快二十年了，李彪開始出使南方時，臣見其色厲辭正，才優學博，臣愚蠢地認為他是出類拔萃的人物。等到李彪官職陞遷，參與言談宴飲，聽到李彪評論古今，品評人物，興言於侍宴之傍，啟論於群英之中，讚賞忠誠識別正直，言論懇切，直來直去，毫不掩飾。即使是諸王之尊位，近臣的顯要，只要他們有什麼不是，多當面道出。殘酷疾忌，矯飾奸詐，厲色正辭，出語惡毒，就像老鷹撲殺鳥雀，凜凜然確實像有公正清廉的節操。臣雖才智卑下，則也嘉尚他的耿直，欽佩其正直，雖覺得他有些太過火，但不覺得這是什麼毛病。等到李彪初登憲台，始居糾彈之職，首復引馬騎卒傳呼開道入宮的禮儀，訂下直繩不法行為的糾彈，當時人們普遍認為這很難做到。而李彪秉志信行，不避豪強勢力，他所彈劾的人，全都望風而倒。赫赫威風，振於全國，肅正之稱，傳遍京城。天下人對他改眼相看，貪暴之人斂手整肅。臣當時見到他的所做所為，確實說過他言行相符，忠誠清正自內而發。然而當時有人私下裡告訴為臣，說他十分暴虐，臣當時認為糾彈的官員，人們都很忌怕疾恨，風謗之際，容易生出謠言，心中自不相信真有這麼回事。
「往年因河陽事，臣與李彪都在領軍府，加上太尉、司空以及領軍諸官員等，集中閱查廷尉所審問的犯人。當時有人訴說冤枉，二公及臣意欲聽理。那人訴說的道理還沒完，李彪便勃然震怒，從東面的座位上躍起，捋袖揎拳，口中宣說大膽賊奴，叱吒左右，他高聲大呼說：『南台中把我木手拿來，讓我把這奴脅骨打斷！』雖然口中說這話，但實際並未真的去取。他又說：『南台所審問的，只怕還有枉活的，始終沒有枉屈而死的，只可依此。』當時眾人中被冤枉的過於嚴重，有許多事實足以證明，然又心中怵於李彪，於是各自沉默不語。因為這件事，為臣於是心中懷疑他濫責無辜，臣審加情察，知其威虐，但仍為體察其採訪之由，訊問的情況。粗略而言，其酷急小罪，肅禁為大。總而言之，仍認為其益多損少。所以按住臣心中所疑，不以申奏，實在有失為臣知無不說以求聖上瞭解情況的道理。
「等到去年陛下大駕南征以來，李彪兼任尚書，我與他早晚共事，才開始瞭解他言行不一，是己非人，專橫恣肆，毫無忌憚，尊重自己，忽視別人，安己凌上，以自己的過錯彈劾他人，己方事人，喜好別人拍奉自己。聽到他說的話覺得他與古代賢人沒有兩樣，檢校其行為卻是天下奸佞暴虐之徒。為臣與任城王卑躬曲己，就像柔順的小弟奉從暴虐的長兄一樣。他所想要做的，盡避事不在理，我們也只好無不屈從。
「依李彪其事求李彪其實，諸項列舉都有證據。如果為臣列舉符合事實，就應在北方就地處決李彪，以去除擾亂國家政治的奸矯之人；如果為臣所說無證，理應流放為臣於荒僻之地，以平息讒言之污人清白。」
高祖當時在懸瓠，看到李沖表奏驚歎愕然，說：「怎麼會料到留京之人像這樣！」有關部門要處李彪以極刑，高祖寬恕了他，除名而已。李彪很快還歸本鄉。
高祖從懸瓠北到鄴城，李彪在鄴城南部迎拜。高祖說：「朕對你寄予厚望，每每許你以貞松為志、歲寒為心，你理應報國，發揮才能，但近日見到彈劾你的文字，令朕大失所望。卿你遭到這種譴責，是朕與你過不去，是宰相跟你過不去，還是卿你咎由自取？」李彪回答說：「臣的過失咎由自取，罪自身招，實在不是陛下加罪於臣，也不是宰相無辜罪臣。人臣罪既如此，應伏鄉野之中，不應遠接聖上車駕，但聽說聖體有恙，臣肝膽塗地，是以敢至，並不是為謝罪而來。」高祖聽取宋弁的意見，準備採用他，又逢留台臣僚表言李彪與御史賈尚過去審理平民恂一案，又有誣蔑不實之處，奏請逮捕李彪。李彪自稱此事冤枉，高祖也知道李彪沒有此事，便派人安慰他，讓人用牛車散載，送他到洛陽。逢大赦得以免罪。
高祖逝世，魏世宗登極，李彪自托於王肅，又與邢巒詩書往復，互相推崇，因之李彪請求朝廷恢復他的舊職，重操往日史官職事，王肅等人答應為他出力幫忙。李彪於是上表：
「惟我皇之擁有中華，歲越百齡，年幾十紀。太祖以不能違命而開基業，武皇以奉養時序而拓開帝業，虎嘯中國，龍飛宇外，小往大來，萬物鹹順，從此以降。世世代代濟其光輝。史官所述，未能充分具其興盛。加上東觀圮壞，冊籍缺乏，先王之美隨日而落，皇朝大善與月同稀。故有諺語說：『一日不書，百事荒蕪。』到了太和十一年(487)，先帝先後遠思大魏皇業，綿遠悠長，轟轟烈烈，如不恢復史官闡述著錄，怕大業茂功便會有缺。於是召集名儒博達之士，充任秘書省辟職。當時聖上忘臣眾短，採納為臣片志，令臣出山，授予丞職，為臣忝居其事，無所與讓。高祖時常召臣說：『平正你的大志，端正手中筆法，書寫史事而不按法，後世之人有什麼可看的。』為臣奉以周旋，不敢疏怠，與著作郎等人拾撿遺文，並取前記，撰為國書。假如有新進時賢續做此事，臣擔心門庭既異，出入生疑，弦柱既變，善者或許成為謬妄。自從太和十五年(491)以來，臣出使國家遷都，為臣頻頻出使南方，於是記載之筆便停輟不用，史實也不復被載，這對於書功錄美，不也是有欠缺嗎？
「伏思孝文皇帝承接天地之寶，崇揚祖宗大業，大功未就，早早崩殞，黎民百姓，如無天地。賴陛下體明睿之真誠，應保合之大量，恢恢大明以照萬物，履踐靜恭以安定邦國，天清其氣，地樂其靜，不失不忘，都由舊章，真可謂重明疊聖，百姓安康。惟先皇的開創造物，經治浩廣，加上魏典常記、偉跡垂篇，窮理於有象之中，盡性於眾變之內，真可謂日月出矣，無幽不被照亮了。《記》說：『善流者欲以繼其行，善歌者欲人繼其聲。』所以《傳》說：『文王開創基業，周公成其大邦。』又說：『沒有周公的才能，不得做周公那樣的事。』今日的親王，可謂能與當年周公相比了。但先王的大計聖達，今王的淳美洞鑒，與前代相比，毫無遜色的地方。時哉時哉，可不光照日月嗎！與天地合德的，是先皇開創之功；與日月齊明的，是先皇的洞照之識；與四時周遍的，是先皇的豐功；與鬼神合契的，是先皇的明察；遷都改邑，是先皇的明達；變是協和的，是先皇的玄鑒；思同書軌的，是先皇的遠見卓識；守在四夷，是先皇的深遠謀略；海外有截，是先皇的赫赫聲威；禮田岐陽，是先皇的明識大義；張樂岱山之郊，是先皇的仁德；車駕幸臨幽僻荒漠，是先皇的智謀；征伐南荊的，是先皇的禮敬；升中告成的，是先王的整肅；親祭社稷，是先皇的禮敬；兗實無缺，是先皇的充備；開物成務，是先皇的貞正；觀察人文，是先皇的涵蘊；革弊創新，是先皇的志向；孝慈道洽，是先皇的衷誠。先皇有大功二十件，加上謙慎尊位，光被四極，為而不佔有，可以說是功包三皇五帝了，實在應該書功於簡冊，聲播於金石。
「為臣竊謂史官的顯達，大的可與日月齊明，小的可與四時並茂。其中大的孔子、左丘就是，小的司馬遷、班固便是。所以他們可以聲流於無窮之外，義明於後來之人。故金石可以泯滅而流風不會泯滅的，恐怕就是載史的書籍吧？諺語說『相門有相，將門有將』，這不只是說他們的性格，還指長期耳濡目染所養成的氣質。臣竊謂天文之官，太史之職，如有其人，就當世有其人了。所以《尚書》稱羲和世代掌天地之官，張衡在賦中說『學於舊史氏』，說的就是世代相傳之義。如果像善於冶煉的人的兒子擅長製作裘衣，善於治弓的人的兒子擅長編製筲箕，事物哪有固定的程式，習染成自然罷了。所以說到這裡，也可說史官不修書，皇朝事跡便多淪落空曠，因此天人之際的事，不可片刻沒有記載。所以司馬談、司馬遷記錄史實而立下功績，班彪、班固撰寫《漢書》而成名，這是前鑒的軌轍，後鏡的蓍草龜骨。然而前代史官不能終其史官之業的有之，這都是暴虐之世不能容忍善人的原因。所以平子離開史館而成文名，伯喈違棄館閣而就其素志。而近代偽晉之世，有位叫王隱的佐郎，被著作郎虞預所誣毀，棄官在家，白天他打柴造飯，晚上觀文寫作，撰成《晉書》，存留一代史實，司馬紹讓尚書只為他提供筆與紙而已。國家大典，成於私家，末世之弊，竟成這樣，史官的命運不濟，是因為時代。
「而今大魏的史書，職掌它則身家顯貴，祿則親受榮耀，優哉游哉，它給予人以福祿，然而大魏史書不能恢弘，也是有其原因的。故著作漁陽人傅毗、北平人陽尼、河間人邢產、廣平人宋弁、昌黎人韓顯宗等，都以文才被薦舉，國掌注述，都為時不長，不能終其大績。前著作郎程靈虯與臣同時應舉，共掌此事，而今改從他職，不再職掌撰述。只剩下崔光一人，雖然沒有移任，然而身兼兩職，所以載述之事便空缺了。臣聽說記載典籍的興盛，是由於有其大業，《雅》、《頌》垂薦，由於德美，雖然一時有一時的文質，史書記載也有詳有略，然而歷代相傳，這一基本的特點並沒有改變。過去司馬談告誡他的兒子司馬遷說：『當世有美而你不記，是你的罪過。』所以司馬遷之書久而見美。孔明在蜀，不曾留意史事，所以久而久之就被人批評。從長遠忠實的角度來看，司馬談之志比諸葛亮要賢敏得多。《尚書》稱『不要曠廢眾官』，《詩經》有『職掌什麼就有什麼憂患』，為臣今天雖不在史官其位，然而過去臣曾忝居其職，所以自己現是一介草民而自疏，敢於就此發表看法。語說『擔心的是做一件事情的人不一定知道為什麼要去做，知道為什麼要做的人不一定能夠去做』，為臣實在談不上知道，不過是勉強為之。竊查先朝賜給臣『彪』的名字，遠則擬比漢史的叔皮，近則倣傚晉史的紹統，推尋名字，求其含義，為臣欲罷不能，荷恩戴德，為臣惟有死而後已。而今臣請求在都城邊求得一個僻靜的地方，臣好綜理國朝典籍，以終了為臣以往夙志，官府給些人力物力，以備所需。雖然臣不敢有光耀今古的奢望，但也不是為了飽食終日。如臣撰述，國史近可望一個月就寫成，遠的話三年也會完工，正本放在秘書監，副本可藏之名山。」
當時司空北海王元祥、尚書令王肅因其沒有俸祿，很是賑濟他，於是按照當年王隱的樣子安排他在秘書省，白衣修史。
魏世宗親理朝政，崔光上表說：「臣伏見前御史中尉李彪，夙懷美意，創修魏典，為臣過去被李彪邀請，與他同掌一業已有多年，他志力貞正堅強，考證撰述不知疲倦，督促勸勉群官，注綴之事大略備舉。雖然前一段分開了，臣與他多有廢離，但近蒙聖朝重新啟用他，還讓他綜理撰事。而他老而彌厲，史才日新，假如聖上能復他舊職，專攻治書之事，他必定能昭明《春秋》，撰成皇籍。既然先帝委他重任，曾歷高官，他背負過錯，應從滌洗。愚臣認為現在應讓他任職侍中，正職著作，停他外役，讓他專心寫作，積月累年，國史定會寫成。聖上鴻聲巨跡，蔚成大章，皇朝盛明氣象，記錄在冊，也可永不泯滅了。」魏世宗不同意。
皇帝下詔讓李彪兼任通直散騎常侍，行汾州事，這不是李彪所愛好的，他堅決不去，有關部門狠狠地批評指責他。恰好此時李彪染上疾病，持續了幾十天，景明二年(501)秋天，在洛陽去世，享年五十八歲。
李彪開始任中尉職，以嚴酷出名，他因姦情難得，於是用木手擊打人的肋腋，罪人氣絕之後又定其罪的事時有發生。又出使慰問汾州叛逆的胡人，抓到凶頑的人，都被他鞭打面部而致死亡。到了李彪生病後，身上往往出瘡潰爛，痛毒備至。死後，朝廷下詔賜給帛一百五十匹，贈鎮遠將軍、汾州刺史，謚稱剛憲。李彪在秘書監一年多，修史之業終未完成，然而區分書體，都是李彪的功勞。他講述《春秋》三傳，合成十卷。他所寫的詩歌、頌、賦、耒、章奏、雜筆百多篇，另外有集子。
李彪雖與宋弁結下管鮑之交，宋弁為大中正，與高祖私下議論時，猶且把他視為寒貧之輩，一點也沒有寬容的態度。李彪也知道這回事，卻不記恨他。等到宋弁去世，李彪痛哭不已，撰寫耒文哀悼他，語辭備極辛酸。郭祚職掌吏部，李彪為兒子李志求官，郭祚仍以舊第對待他。李彪因自己位經侍中，又兼尚書，對郭祚說應當以顯貴後代提拔李志，郭祚不答應，李彪大為惱火，形於言色，當時輿論以此譏諷郭祚。郭祚經常說：「你與義和結交，我怎能饒過你，而讓別人怨我呢？」任城王元澄與李彪起先關係也不好，等到任職雍州，李彪前去為李志求取其府中僚佐之職，元澄很痛快地啟奏朝廷，求得列曹行參軍一職，當時輿論都稱讚此事。