李罕之，陳州項城人。父親李文，一生種田。李罕之勇敢敏捷，力氣可抵數人。小時學做儒士，不成，又削髮為僧，因他無賴流浪，到哪裡都不被收容。曾到酸棗縣要飯，從早到晚，沒有人給他，於是把瓦缽朝地下一摔，撕爛並扔掉僧衣，跑去做強盜。正遇上黃巢在曹州、濮州起勢，李罕之於是聚合黨徒進行搶掠，逐漸成為首領。到黃巢賊黨渡過長江時，李罕之乘機領著兵將背叛賊黨投奔唐朝，高駢登錄他的功勞，上表推舉他為光州刺史。一年多後，李罕之被蔡州賊寇秦宗權侵擾逼迫，不能守住扁州，於是放棄州城跑到項城，收聚殘餘部眾，依附河陽諸葛爽，諸葛爽暫任他為懷州刺史。光啟初年，唐僖宗任諸葛爽為東南面招討，以攻擊秦宗權，諸葛爽就表奏任李罕之為副手，令他領兵駐守宋州。蔡州賊寇勢力日盛，抵擋不住。中和四年(884)，諸葛爽表奏李罕之為河南尹、東都留守。
這年，李克用擺脫上源的險難，收軍西歸，路經洛陽，李罕之迎接拜謁他，供給帳篷館舍住宿，接待很優厚，並與李克用互相結交依托。當時李罕之有部眾三千人，以聖善寺為帥府。光啟元年(885)，蔡賊秦宗權派將領孫儒來進攻，李罕之與之對陣數月，因兵少而儲備用光，棄城而逃，向西固守澠池。蔡賊佔據京城一個多月，焚燒宮殿，剽掠居民。賊寇退後，京城全被踏為灰燼，靜寂全無雞犬之聲，李罕之又領著他的部眾，在市西修築城堡。
第二年冬天，諸葛爽去世，他的將領劉經推舉諸葛爽的兒子諸葛仲方為主帥，劉經怕李罕之難以控制，便自己領兵鎮守洛陽。李罕之有部將名叫李瑭、郭趚，感情不和，都想謀殺對方。李罕之發怒，誅殺了郭趚，軍心因此不和。劉經趁他內部有矛盾，便在澠池掩擊李罕之，李罕之軍隊散亂，退守乾壕。劉經緊急攻打李罕之，卻被李罕之打敗，李罕之乘勝追到洛陽。這時劉經守著敬愛寺，李罕之守著苑中飛龍廄，李罕之激勵部下攻打敬愛寺，幾天後，順風放火，全部燒著了敬愛寺，劉經部眾逃奔亂竄，被追殺將盡。李罕之進逼河陽，在鞏縣紮營，在汜水布下船隻，準備過渡，諸葛仲方派將領張言率領軍隊在黃河岸邊抵擋。這時仲方年紀還小，大權掌握在劉經手中，將領們內心多不歸附。張言暗中與李罕之結好，劉經知悉他們的陰謀，張言害怕，帶著部眾渡過黃河歸順李罕之，於是合兵攻打河陽，被劉經打敗，李罕之與張言退守懷州。冬季，蔡賊將領孫儒攻陷河陽。諸葛仲方划著小船來投奔，孫儒於是自稱為河陽節度使。不久蔡州賊寇被梁軍打敗，孫儒放棄河陽回到蔡州。李罕之與張言收聚部眾，向太原晉軍求援，李克用派澤州刺史安金俊率領騎兵幫助他，於是收復河陽。李克用任李罕之為河陽節度使、同平章事，又任張言為河南尹、東都留守。
李罕之既與張言結為患難之交，刻臂為盟，永遠休戚與共，如張耳、陳余的情義。李罕之雖有膽量決斷，但疑心極重，反覆多變，而統治民眾全無方略，大多苛刻殘暴，性情又貪婪，不得人心。在獲取河陽後，出兵攻打晉州、絳州。當時在大亂之後，田野沒有耕種莊稼，李罕之靠俘獲搶劫為業，吃人作為糧食。絳州刺史王友遇獻城投降，李罕之於是進攻晉州，河中王重盈派使者向太祖求援。當時張言治軍有方，善於積聚，勤於耕種，軍糧不缺。張言向李罕之供給糧食，以補充他的軍需，李罕之索求沒有止限，張言對此很覺苦惱；當張言能力不能滿足李罕之的需求時，李罕之就抓住河南府吏鞭打督責他。東方諸侯向皇帝出行所在地進貢的財物，大都被李罕之攔截奪取，王重盈對他的侵凌深感苦惱，暗中聯絡張言請求共同除掉李罕之。
文德元年(888)春天，李罕之派出他的全部兵力攻打平陽，張言夜晚出兵掩擊河陽，李罕之沒有防備，僅他一人徒步逃脫，全家都被張言俘獲。李罕之逃往太原，李克用任他為澤州刺史，仍然遙任河陽節度使。三月，李克用派他的部將李存孝率領三萬軍隊幫助李罕之，來攻打懷州、孟州。城中糧食吃盡，防禦工事癱瘓，張言以他兒子做人質，向太祖求援。太祖派葛從周、牛存節赴援，在流河店迎戰。遇上晉軍將領安休休領著一支軍隊投奔蔡州，李存孝便領軍而退，李罕之守衛澤州。從此李罕之每天派兵侵擾搶劫懷、孟、晉、絳各州，數百里之內，城邑沒有敢為頭的官吏，村巷沒有敢居住的人民。河內的百姓屯聚於村寨，有時出去打柴汲水，就被李罕之抓去。就是奇峰絕道、扎架設梯才能到達的險要，也被李罕之部眾攻取。此前，蒲州、絳州之間有座摩雲山，當地人在山上搭起房屋以避賊寇的擾亂，李罕之帶領一百多人攻下了它，軍隊中因而稱李罕之叫李摩雲。從此數州的人民，被殺戮啖食，幾乎完盡，荊棘遍野，煙火斷絕，共十多年。
乾寧二年(895)，李克用出兵抵禦..州、鳳翔部隊，在渭水北岸紮營，天子任李克用為..州行營四面都統，李克用於是表奏李罕之為副手。到誅滅王行瑜後，李罕之因功授予檢校太尉，食邑一千戶。李罕之自以為功多，私下對晉軍將領蓋寓說：「我自從河陽失守以後，來依附晉王這棵大樹的蔭庇，歲月日漸長久，未見功效。近年以來，厭倦軍旅之事，正所謂年紀老了，沒有作為了。希望晉王仁憫，太傅哀憐，給我一處小鎮，不再打仗，休養疾病，一二年間就歸老鄉里，就是有幸了。」蓋寓為他傳話，李克用不做回答。盡避常有藩鎮缺乏統帥，在討論委任時都不提到他，李罕之內心鬱鬱不樂，蓋寓怕他另有所圖，屢次為他抱不平。李克用說：「我對罕之，豈是捨不得一處藩鎮？我有罕之，就像董卓有呂布，英雄倒是一位英雄，只是具有鷹的本性，吃飽了就要飛走，實在是怕他反覆而加害於我啊！」
光化元年(898)十二月，晉地潞州統帥薛志勤去世，李罕之乘著他新亡，從澤州領兵直入潞州，自稱潞州留後，將情況報告給李克用說：「聽到志勤的死，新的統帥沒到，擔心被其他盜寇圖取，我不等下令就已駐紮在潞州了。」李克用大怒，派李嗣昭討伐他，李罕之抓住潞州守將馬溉、伊鐸、何萬友和沁州刺史傅瑤等人，派他兒子李顥押送給太祖以求援。這時李罕之突然生病，不能主事。第二年六月，病重，太祖令丁會替代他，調李罕之任河陽節度使，走到懷州時，死在驛捨中，時年五十八歲。