李平，字曇定，頓丘人，彭城王李嶷的長子。少年即有大度。等到長大，涉獵群書，喜好《禮》、《易》，很有文才。太和初年，朝廷拜授其為通直散騎侍郎，高祖待他的禮節相當厚重。李平頻歷大喪，居喪以孝稱。後來以例降爵為彭城公。拜授太子中舍人，遷任散騎侍郎，舍人官職照舊，遷任太子中庶子。李平乘著侍從的機會從容請求治理一郡，高祖說：「卿你也想在吏事上試試了。」拜授他為長樂太守，任上，政務清靜，吏民歸心。皇帝車駕南征，任李平兼冀州儀同開府長史，很有政績，又除正長史，太守官職照舊。沒多久，便行河南尹，權貴豪紳都很怕他。世宗即位，升任司徒左長史，行尹職務仍舊。不久以稱轉正尹，長史如故。
皇帝車駕準備到鄴城，李平上表疏諫：「臣伏見己丑時的詔書，皇駕雲軒鑾輅，行幸有期，風服龍驂，驅駕近日。陛下將欲講武淇陽，大習鄴魏，馳駿馬於綠竹之區，騁烈騎於漳、滏之域。這確為幽顯同慶、人靈共悅的事情。但為臣愚見，私有不解。為什麼呢？嵩京創構，洛邑始營，雖然年跨十載，但根基未成。代州民眾遷居洛陽，始欲向盡，資產在遷移途中耗盡，牛畜在輾轉路上死斃，攀太行之險，越長津之難，辛苦備至，才到京城，富裕的人猶且損財過半，貧家可以想見。加上連年從戎，老百姓來不及尋得養息之所，自從景明年間以來，少得休息。從事農耕的沒能得到二年的糧食積儲，建房的才有數間之屋，無人不勉力伊、..之間，參加皇宮建設。而今實在應該安定民心，勸農耕種，讓國家有九年之糧，家家有水旱儲備。如若再興徭役，那就會所廢甚多了。一夫從役，全家失業。現在又值秋禾滿田，禾谷遍野時節，鑾駕所經，騰踐必定很多。陛下不如端居中央，坐招四海，耀武松原，禮射伊洛，士馬無跋涉之勞、黎民有康哉之永，豈不是件很美的事。」帝不從。下詔令李平以本官行相州事務。魏世宗到鄴城，親臨李平宅第，召見他的幾個兒子。不久正除刺史，加授征虜將軍。
李平勸農耕桑，修飾太學，考選通儒充任博士，選擇五郡聰慧敏捷的孩子們受學，圖畫孔子以及七十二弟子的畫像於學堂之上，親自為之立贊。前任台使頗好搜刮民財，李平於是在客館牆上畫「履虎尾」、「踐薄水」，下面注頌，以示誡止。朝廷加授他為平東將軍，征拜長兼度支尚書，不久正尚書，領御史中尉。
冀州刺史、京兆王元愉在信都造反，帝任命李平為使持節、都督北討諸軍事、鎮北將軍，行冀州事以討伐他。魏世宗親臨式乾殿，勞遣李平說：「元愉，朕的大弟，朕讓他居守不疑之地，豺狼之心，沒想到就發了，他想要上傾社稷，下殘百姓。大義滅親，夫豈能止。周公行之於古，朕也應當行之於今。朕委任你為專征之任，務必要應期摧滅。卿務必要克盡征戰職守，不要辜負朕推心置腹的寄托。朕哪裡想到今天說起這件事呢。」因之..欷流淚。李平回答說：「臣元愉鬼迷心竅，大膽幹出叛亂的事來。陛下您不覺得為臣不武，委以總督之任，而今大赦既行，便只應有征無戰。倘若誰守迷不悟，便應當仰憑天威，激勵將士，譬如太陽消散微露，巨海蕩盡熒燭那樣，天時人事，滅除道理昭然明瞭。如果他頓首軍門，就把他交送大理寺，如若有過不改，以待斬戮，則動用干戈，這是他自找其咎，與陛下無關。」
李平進軍至經縣，諸路大軍彙集。夜晚有蠻兵數千人砍斫李平前營，流矢射到李平帳中，李平堅臥不動，不一會敵人就逃散了。於是軍隊進到冀州城南十六里處。敵人圍攻濟州軍，拔去柵寨，填平溝塹，只差數尺溝就被填平了。諸將合戰，無利而還，害怕再前進了。李平親自來到隊伍中間，許以重賞，士兵於是又前進，大破叛賊。元愉當時從馬上掉下來了，於是有一個人下馬救他，阻止攻勢力鬥而死。李平乘勝追擊，到了冀州城門，斬敵數萬人，便開始圍城燒門。元愉與百餘名騎兵衝出城門逃走，李平派統軍叔孫頭追擊敵人，在離信都十多里的地方捉住了元愉。冀州平定後，世宗派兼給事黃門侍郎、秘書丞元梵宣讀帝旨慰勞。征回到京師之後，李平以本官領相州大中正。
李平一開始被尚書高肇、侍御史王顯所恨，後來王顯代李平為中尉，李平加散騎常侍，王顯彈劾李平在冀州時隱截官家丁口，高肇又為之作證，啟奏除李平名。延昌初年，帝詔恢復李平官爵，去除他平定冀州的功勞。一段時間以來良賤之人的訴訟，有很多拖延多年而得不到解決，李平啟奏不問案情真偽，一律以景明年前為限，於是諍訟平息。武川鎮百姓饑荒，鎮將任款請求貸糧沒有得到允許，擅自打開糧倉賑恤災民，有關部門以費散官糧的條律將他繩之以法，免去他的官爵。李平啟奏說任款本意是在救濟百姓，用意善良，世宗下詔原諒了任款。李平遷任中書令，尚書職仍舊。肅宗初年，轉任吏部尚書，加授撫軍將軍。李平為政技巧高超，所在都有聲譽，但他的急脾氣妨礙了他。尚書令、任城王元澄啟奏講述李平平定冀州的功勞，請求朝廷賞賜他邑地。靈太后於是封他為武邑郡開國公，食邑一千五百戶，縑帛二千五百匹。
這以前，蕭衍派其左游擊將軍趙祖悅偷據西硤石，軍力人數數萬，逼迫壽春。鎮南將領崔亮攻打，沒拿下來，又與李崇鬧了矛盾。帝詔李平以本官使持節、鎮軍大將軍，兼尚書右僕射為行台，節度諸軍，東西州也受他節制，如有乖異，以軍法處置。詔李平長子李獎以通直郎職跟從，賜予李平縑帛百段、紫納金裝衫甲一領，賜予李獎縑布六十段、絳納襖一領。父子並列，拜受家中，觀者以之為榮耀。於是李獎率領騎步兵二千人奔赴壽春。李平巡視硤口內外，觀察到其虛實的地方。嚴令李崇、崔亮，令其水陸皆備，刻期齊攻。李崇、崔亮心中害怕，不敢違令。連日交戰，屢破敵軍。安南將軍崔延伯在下蔡架橋，以對付敵人援軍。敵將王神念、昌義之等不能救援，趙祖悅據守孤獨無援的城池。李平於是佈置攻打，命令崔亮督步兵攻打城西，李崇率水軍攻其東面，然後大軍鼓噪，南北兩面一擁而上。敵人慌了手腳，東西赴戰，窮於應付。攻下外城之後，敵人將士相繼歸附。趙祖悅率領餘部固保南城，徹夜攻守，到天亮敵人才降。斬殺趙祖悅，把他的頭顱送到了洛陽，俘敵無數。因功李平遷任尚書左僕射，加授散騎常侍，將軍如故。
李平還歸京城，靈太后在宣光殿召見他，賜給他金裝刀杖一口。當時南徐州上表說，蕭衍堵淮水形成禍患，帝詔官員討論應付的辦法，李平認為不用出兵，堤壩自會毀壞。等到淮河堤破，靈太后大為高興，引群臣參加宴會，敕李平前鳴簫管，肅宗親手賜予縑布百段。熙平元年(516)冬天去世，遺囑薄葬。帝詔賜予東園秘器、朝服一具、衣一套、帛七百匹。靈太后為他在東堂舉哀。贈給他侍中、驃騎大將軍、儀同三司、冀州刺史，謚稱文烈公。李平自在度支時起，官做至副丞相，日夜務公，孜孜不懈，在權要之地前後任官十多年，都被人交口稱讚。所寫詩賦箴諫永頌，另外有集子流傳。