李矩字世..，平陽人。他年幼的時候，和一群孩子在一起玩耍，就是孩子們的首領，計劃指派，就和大人們辦事一樣。長大後作差吏，護送去職的縣令到長安，被征西將軍梁王司馬肜任命為牙門將。在討伐氐人齊萬年的戰鬥中立下大功，被封為東明亭侯。回到本郡擔任督護之職。郡中太守宋胄想讓自己的親戚吳畿來任督護，李矩就假稱有病離開了。吳畿擔心李矩再返回來，暗中派人刺殺他，剛好碰上有人救了他，才得以保全性命。當劉元海進犯平陽時，百姓四處奔走躲避，李矩平素為鄉親們所愛戴，大家推舉他為塢主，組成自衛的武裝，東下屯兵滎陽，後又移到新鄭。
李矩勇猛剛毅多謀略，有建功立業的大志，東海王司馬越任命他為汝陰太守。永嘉初(307)，派李矩和汝南太守袁孚率民眾修築千金土曷，以便利水路漕運。後洛陽失陷，太尉荀藩逃奔陽城，衛將軍華薈逃奔成皋。當時大饑荒，賊兵首領侯都等常常抓人來充飢，荀藩、華薈的部曲士卒很多都被吃掉了。李矩討伐並消滅了侯都，營救保護了荀藩、華薈，並為他們營造了屋宇，供給糧食。荀藩接受朝廷任命，建立行台後，就讓李矩擔任了滎陽太守。李矩收容招納離散的民眾，遠遠近近的人都來投奔他。
石勒親自率領大軍進攻李矩，李矩令老弱之人入山中躲避，讓所有的牛馬都散放，預設埋伏等待敵軍的到來。賊兵爭先恐後地追取牛馬，伏兵齊出，高聲吶喊，震動山谷，於是敵軍大敗，斬殺敵人甚多，石勒只好退兵。荀藩表奏元帝，加封李矩為冠軍將軍，賜軺車幢蓋，晉封陽武縣侯，領河東、平陽太守。當時饑荒仍沒解除，又再加瘟疫流行，李矩盡心為民解難，百姓多依賴他而存活。後正值群盜從長安東下，所過之地大肆搶劫掠奪，李矩派部下打敗了他們，獲得了盜賊搶來的婦女千餘人。部下將領認為這些婦女不是自己轄區的人，可以留下來，李矩說：「她們都是國家的臣民，怎麼能分彼此！」於是把她們都送了回去。
其時劉琨所任命的河內太守郭默為劉元海所逼迫，願意歸屬李矩，李矩派自己的外甥郭誦去迎接他，但郭默不敢前進。正好劉琨派遣參軍張肇，率領鮮卑人范勝等五百騎兵前往長安，因郭默被劉元海圍困，道路不通，準備退還投奔邵續。路過李矩軍營時，李矩對張肇講了郭默之事，李矩說：「郭默是劉公委派的，但都是為國家之事，知道的我們都應去做。」屠各過去害怕鮮卑兵，於是請張肇支援自己，張肇同意了李矩的要求。屠各他們看到張肇帶領的鮮卑騎兵，不等接戰就退走了。郭誦暗中派小船渡過黃河，使勇士夜襲懷城，攻擊敵人留守的營壘，大獲全勝，郭默這才率領部屬投歸了李矩。後來劉聰派從弟劉暢率步騎三萬攻打李矩，駐屯於韓王故壘，兩軍僅相距七里，劉暢派使者招降李矩。因劉暢來得突然，李矩未作好應敵準備，就派人送上牛酒禮品詐降於劉暢，把精銳之卒藏起來，只看到一些老弱殘兵。劉暢不以為意，大宴諸將，人人酒醉飯飽。李矩安排夜間偷襲，兵士見敵人眾多，都有畏懼之色，李矩令郭誦到鄭子產祠去祈禱說：「鄭君過去在鄭國為相，惡鳥都不敢鳴叫，這些凶殘的胡虜，又怎能在你的庭前橫行？」讓祠中巫師揚言：「東裡子產有教，他當派神兵幫助你們。」將士們聽了，無不奮勇爭先。於是讓郭誦和督護楊璋挑選勇士千人，夜晚偷襲劉暢軍營，繳獲大批鎧甲戰馬，斬殺數千敵軍，劉暢好不容易逃走保住了性命。
先前，郭默聽說李矩被劉暢所攻，遣弟郭芝率兵救援。接著聽說李矩已打敗了敵人，郭芝還是照常趕來相見，李矩就送給郭芝五百匹戰馬，分兵三路，連夜追擊敵人，大獲全勝而歸。
先前，劉聰派其部將趙固鎮守洛陽，長史周振與趙固有矛盾，暗中向劉聰告發趙固之罪。李矩打敗劉暢時，在營帳中繳獲了劉聰的書信，信中命令劉暢消滅李矩後，路過洛陽時，殺掉趙固，讓周振代替趙固。李矩將此信送與趙固，趙固即殺了周振父子，率一千餘騎投降，李矩讓他繼續鎮守洛陽。過後數月，劉聰派遣太子劉粲率劉雅生等步騎十萬屯孟津北岸，分派劉雅生攻打洛陽的趙固。趙固出奔陽城山，讓其弟前去告急求救，李矩派郭誦屯兵洛口以救援他。郭誦派部將張皮挑選精兵千人乘夜渡河，劉粲的偵探報告有兵過河而來，劉粲倚仗自己人多，毫不在意。一會兒郭誦之兵掩殺而至，十路齊攻，劉粲士卒驚恐萬狀，四散逃奔，被殺傷大半。郭誦佔據了敵軍營壘，繳獲各種軍用器械物質，不可勝數。天亮後，劉粲才發現張皮兵卒不多，就和劉雅生帶領剩下的人全力攻打，苦戰了二十多天也攻不下來。李矩進兵援救張皮，使壯士三千乘船渡河。敵軍在河邊列陣以待，用長鉤來鉤住船，連攻幾天也過不了河。李矩派部將格增在夜晚偷偷渡河進入張皮營壘，與張皮選精兵千餘騎，殺掉所繳獲的牛馬，燒燬軍用器械，連夜突圍而出，奔向武牢。劉聰追趕，趕不上了才退回。劉聰因此憤怒，發病而死。元帝嘉獎李矩的戰功，封他為都督河南三郡軍事、安西將軍、滎陽太守，封修武縣侯。
劉粲即位後，昏庸殘暴，其部將靳淮十起兵殺死劉粲，滅其宗族，發掘劉聰墳墓，斬其屍體，派遣使者到李矩處請求歸順，說：「劉元海、屠各這些小丑，乘晉室變故之機，作亂於幽州并州，矯稱天命，至使二帝被害於胡人之手。我們將率眾護送二帝梓宮回朝，請告知朝廷。」李矩以表章馳奏元帝，元帝派遣太常韓胤等來迎接二帝梓宮，人還未到而靳淮十已被石勒、劉曜消滅了。李矩因為自己人少力弱不能立此大功，經常慨歎惋惜。元帝正式即位後，以李矩為都督司州諸軍事、司州刺史，改封平陽縣侯，將軍職位如故。其時，弘農太守尹安、振威將軍宋始等四軍都駐紮洛陽，他們互相猜疑，毫無固守的打算。李矩、郭默各派千騎到洛陽防守。尹安等人合謀，把消息密告石勒，石勒派石生率五千騎到洛陽，李矩、郭默之軍只好退回。不久尹安等四將又背叛石勒，派使者前來請求迎歸，郭默派步卒五百人進入洛陽。石生看到四將有反歸之企圖，自己難保平安，就把宋始的軍隊脅迫帶走，渡河向南而去。百姓相繼來投奔李矩，洛陽城為之一空。李矩上表請任郭默為揚武將軍、陽翟令，在河邊迎水修營壘，一邊耕種一邊防守，為滅敵作長遠的打算。後趙固死，石生派兵來攻打郭誦，郭誦足智多謀，敵兵來到，設埋伏打敗他們，敵人一無所獲。石生惱怒，親自率四千人到諸縣搶掠，又來進攻郭誦營壘，開戰不一會兒，敵兵敗退到..阪。郭誦率勇士五百人追擊石生到磐脂故亭，又大破敵兵。李矩認為郭誦功勞多，上表請賜赤幢曲蓋，封為吉陽亭侯。郭默想攻打祖約，李矩不同意，後被祖約打敗。石勒派遣養子劉鶧襲擊郭默，郭默擔心自己後患還未解除，準備降於劉曜，派參軍鄭雄來和李矩商議，李矩不准。後石勒遣部將石良率精兵五千攻打李矩，李矩迎擊失利。郭誦之弟郭元被敵人俘虜，敵人派郭元以書信勸說李矩：「去年石勒東平曹嶷，西擊猗盧，李矩如同牛角首當其衝，何不歸順過來？」李矩將勸降書交給郭誦看，郭誦說：「過去王陵母親被敵人扣押，王陵尚且不以為意，何況現在我只是一個兄弟陷於敵中。」石勒又派人向郭誦贈送塵尾馬鞭，以示慇勤之意，郭誦不予理睬。石勒部將石生屯兵於洛陽，在河南大肆搶掠，李矩、郭默因而無食而饑，郭默又勸李矩歸降劉曜。李矩被石良打敗，只好聽從郭默的勸告，派使者到劉曜處聯繫。劉曜派從弟劉岳屯兵於河陰，準備和李矩一起攻打石生。石勒派遣將領圍攻劉岳，劉岳閉門不敢出戰。郭默後來被石囪心打敗，從密縣南奔建康。李矩知道後大怒，叫部將郭誦等人寫信給郭默，又對郭誦說：「你知道唇亡齒寒的道理嗎？當年迎接郭默歸順，都是你出力促成，他臨危而逃走，一定要把他留下來。」郭誦追趕到襄城，郭默自知有負於李矩，丟棄了妻子自己跑了。郭誦把其他的部下帶了回來，李矩還是和以前一樣對待郭默的妻子。劉岳看到外援無望，只好投降了石季龍。
李矩統率的將士有人暗中要投歸石勒，李矩知道了也無力討伐，只好率領部眾南下投歸朝廷，部下多在途中逃散了，只有郭誦和參軍郭方、功曹張景、主簿苟遠、將軍騫韜、江霸、梁志、司馬尚、季弘、李環、段秀等百餘人棄家護送。走到魯陽縣，李矩墜馬而亡，葬於襄陽峴山。