李沖，字思順，隴西人，敦煌公李寶的小兒子。少小便成孤兒，被長兄滎陽太守李承所撫養教育。李承常說：「這孩子器量非同常人，正是我李門的希望之星。」李沖深沉儒雅，心胸寬廣，跟隨長兄到其任所。當時牧守的子弟大多侵犯百姓，動不動就向他們索要奪取財物，李沖與李承的長子李韶獨獨清簡皎然，無所求取，當時人很是讚美他們。
魏顯祖末年，李沖為中書學生。他善於交遊，不隨便亂來，同輩人們都很推重他。魏高祖初年，按慣例遷任秘書中散，掌管禁中文事，因其修整敏惠，漸漸被皇帝寵幸。遷任內秘書令、南部給事中。
過去沒有三長設置，只是設立宗主督護負責戶籍事務，所以老百姓大多隱瞞戶籍真實情況，五十、三十家才為一戶。李沖覺得用三正治理百姓，歷史已很久遠，於是創立三長制度呈奉皇上。文明太后看後覺得很好，召集公卿大臣討論這件事。中書令鄭羲、秘書令高..等人說：「李沖請求設立三長，本意是求混同天下為一法。他這個建議理論上可以實行，實際上很難做到。」鄭羲又說：「不相信為臣的說法，但試行之，事敗之後，當知愚言的真實。」太尉元丕說：「我認為這個辦法如果施行，對於公私都有益處。」大家都說當今有事之月，核查戶籍，新舊未分，老百姓必定勞怨，請求過了今年秋天，到冬天閒暇的時候，慢慢派人辦此事，更合適些。李沖說：「民者，冥昏也，可讓他們做什麼事，但不可讓他們知道為什麼做這樣的事。如不適時而行此事，老百姓徒然知道立長校戶的勤密，沒有見到平均徭役、省卻賦稅的好處，心中必定會生出怨憤。我們正應該在課調之月，讓百姓知道賦稅平均的好處。老百姓既已認識此事，又得到了好處，也就想要立三長了，我們做起來也容易多了。」著作郎傅思益進言說：「民間習俗不同，難易也不一致，設立九品差調百姓，施行已久，一旦改法，臣擔心會造成恐慌混亂。」太后說：「設立三長，則課稅便有經常的標準，賦稅有經常分別，隱藏的戶籍就會出來，心存僥倖的人也就不存在了，怎麼說不行呢？」大家討論的意見雖有不同，但都認為變法是很艱難的，便更無異議了。於是設立三長，公私都覺得很便利。
遷任中書令，加授散騎常侍，給事中官職仍舊。不久又轉任南部尚書，賜給爵位順陽侯。李沖被文明太后所寵幸，恩遇日隆一日，賞賜的東西每月達數千萬，晉爵隴西公，李沖秘密弄來珍寶御用物品以充實其府第，外面沒有一人知道。李沖家一向清貧，從此以後便成為富室。然而以謙遜為懷，積聚之後也能施散，近至姻親新故，遠到鄉親裡友，沒有人不受過他的贈予。李沖虛己接物，常念貧寒，衰老之人、舊敝之友、沉淪屈枉之人都可在他那受到良好的待遇，人們紛至沓來。輿論也以此稱讚他。
當初，李沖的哥哥李佐與河南太守來崇同從涼州進入魏國，二人一向就有間隙隔閡。李佐因此構陷來崇犯罪，致使他餓死獄中。後來來崇的兒子又糾奏李佐受收賄賂的罪過，李佐及李沖等人都因此被投入監獄，碰到朝廷大赦，才得免罪出獄，李佐深深懷恨在心。到了李沖寵貴時，綜攝內外，來護任南部郎，深深擔心被李衝陷害，常常請求退避，而李沖則每每安慰他。來護後來犯了賄賂罪，心想這下肯定完了。李沖於是上表訴說與他的交往及不和，乞求皇上原諒他的過失，於是來護免於刑罰。李沖的外甥陰始孫孤獨貧困，出入李沖家中，宛如他的兒侄們。有人想求官，因此送了些馬給李沖，始孫便接受下來而且不向李沖說。後來始孫聲稱有事，借李沖此馬，騎出之後，馬的主人見到始孫乘坐此馬而自己卻沒得到官職，大為憤怒，後來始孫才說出事情真相。李沖聽說，大為驚訝，抓起始孫，備表上奏，始孫因此被處死。李沖身處要地，嚴守節揮，不念愛惡，就如上面所述。
當時遵照舊俗，王公重臣都叫他的名字，魏高祖常叫李沖為中書，始終不直呼其名。文明太后逝世後，高祖服喪，引見接待李沖，禮遇有加。等到朝廷商議禮儀律令，潤飾辭意，改定字句，高祖雖然親自下筆，但是總是與李沖一起商量。李沖竭盡忠誠侍奉聖上，知無不盡，出入勤勉，形於顏色，雖是舊臣戚輔，沒人能趕得上他，大家無人不佩服他的決斷慎密，全都歸心於他。從此以後，天下太平，異域之人，聽說他的情況，也都很佩服驚奇。魏高祖也更加深深地相信依靠他，更加親近尊重他，君臣之間，情義無間。等到改置百司，開建五等爵制，高祖請李沖參與制定典製法式，封他為滎陽郡開國侯，食邑達八百戶，拜授廷尉卿。不久又遷任侍中、吏部尚書、咸陽王老師。東宮建成之後，朝廷拜授他為太子少傅。魏高祖初依《周禮》，置立夫、嬪，讓李沖的女兒為夫人。
皇帝下詔說：「過去軒皇統領天下，始立建造宮室之制；經歷三代，興起宮觀法式。但茅門土階，昭德於上代；層台廣廈，崇威於中世。這實際是由於文飾質樸的制度風俗因時不同，華美樸素不同禮制的緣故。所以周代立國，在東都營造明堂；漢祖始興，在咸陽、鎬京建造未央宮。這都是為了使皇威尊崇，帝德隆盛，哪裡說得上是好奢惡儉，以使民力凋弊呢？我皇運承天，以協天地，銳意安定四方，沒來得及建造宮室，因此皇室建制，頗與國威不符。魏太祖剛剛登基，雖然宮室有了大致模樣，從那以後，又多有營建改造。但到了三元慶典，萬國使者都來我庭，觀瞻的人，都有缺憾。朕雖不才，也承皇緒，適逢休明之期，事逢昌盛之運，應該按照遠古法度，營造皇室宮宇。指訓規模，事昭於平日；明堂、太廟，已在昔年建成。又憑借往年的好年成，依仗民情的安逸，準備在今年春天營造改修正殿。朕這一舉措違犯時令，實行起來心驚膽顫。但是北方天氣寒冷，做事不同南方，如果不是在春天動工，營造經夏，那麼宮殿建造，便無法完工。成功地辦成一件事，非得委任賢才不可；改制規模，不任用能人無法做到。尚書李沖器識胸懷淵大廣博，經治營度明達高遠，可為將作大臣；司空、長樂公元亮，可與他共治此事。至於去故崇新之事，修復太極之制，朕當另行委派。」
皇帝車駕南征，加授李沖為輔國大將軍，統領軍馬隨從皇帝。自京城出發至於洛陽，陰雨連綿，天不開晴，皇帝仍詔六軍出發。魏高祖一身戎裝，手執馬鞭，乘馬而出，群臣在馬上行君臣之禮。高祖說：「長驅南境的計劃，在京時就已商議好，而今大軍即將進發，你們都有什麼話要說？」李衝上前說：「為臣等不能運籌帷幄，坐制四海，而使南方有竊取帝號的一幫人，這實在是作為臣子的過失。陛下您因四海之內未統一，親勞聖駕，臣等確實想捨生忘死，衝鋒陷陣。然而自從離都以來，陰雨不斷，士兵馬匹困頓不堪，前面路途還很遙遠，積水更多。伊、洛境內，這樣的小水尚且導致如此困難，何況長江浩瀚，遠在南境。如打造舟船，必須停頓，軍隊疲乏，糧食缺少，進退就很困難，正視困難回撤軍馬，這在目前是最合禮義的做法。」高祖說：「進伐南方，這是我們一致的意見，前面已經說過。而眼下你們因天雨而犯難，然而天時也是可以瞭解的。為什麼呢？夏天既然烈日炎炎，北方乾旱，秋天必定雨水很多，而初冬時節，天必晴爽。等到下個月初十左右，如果婬雨仍然不止，這就是天意不許，假如在此間天晴，行軍則無多大妨礙。古時的君王不討伐不幸的國家，那指的是諸侯同輩的國家，而不是指作為王者統一天下而言的。今天已到這步，怎麼能隨便就不走了呢？」李沖又說：「今天這個行動，天下之人都不情願，只有陛下您一個人要這樣做。漢文帝說，我獨乘千里馬，這是要到哪裡去？為臣有請您回駕之意但一時無辭可說，惟以一死請陛下改變初衷。」魏高祖大怒說：「朕正要經營宇宙，統一海內，而你們這些儒生，卻屢屢疑惑我的大計劃，戰事有它的常規，你們不要再多嘴！」打馬準備出發。於是，大司馬、安定王元休，兼左僕射、任城王元澄等人一起殷殷泣諫。魏高祖於是宣明群臣說：「現在興動不小，動而無所成就，何以昭示後人？假如班師回朝，又無以垂名千載。朕仰思我魏遠祖，世代居住幽僻的荒漠，當年不顧眾人異議舉都南遷，為的是享受無窮之美，豈是沒有心計，輕率離祖宗陵壤的行為。今天的君子，寧是獨有胸懷？當是由於人代天工，王業須成的緣故。如果不向南征伐，就當移都於此，光被中原，機會也是時運，王公大人們你們以為如何？討論的結果，再不得出爾反爾，同意遷都的靠左邊站，不同意的往右站。」安定王元休等人紛紛站到右邊去了。前南安王元楨說：「大凡愚陋的人鼠目寸光，不明事體，機智的人有先見之明，察事於未萌之中。施行大德的不聽普通人的議論，成就大功的不讓老百姓參與謀劃，非常之人才能建就非常之事。開闊神都以延續帝王之業，在中土建造帝王之都，當年周公行之在前，如今陛下行之於後，所以這是很合適的事情。況且天下至為重要的，莫如皇帝居室了，大凡體貴之人，豈能裸體而立？臣等請求皇上安頓好玉身貴體，下以慰百姓所望，光被中原，停止征南。這是為臣想要說的，蒼生百姓所希望的好事。」群臣都口唱「萬歲」。
魏高祖剛開始謀劃南遷都城的時候，擔心群臣心戀舊地，於是採取了南征的大行動，以此來壓定群臣之情，外面叫南伐，其實是遷都。舊都之人懷戀故土，大多不願南遷，但是擔心帝王南征，沒人敢發牢騷，於是魏高祖定都洛陽。李沖對魏高祖說：「陛下正仿照周公當年典制，定都洛陽。然而營建六宮，不能即刻而就；興築城牆，難以馬上營訖。臣請陛下暫還北都，讓臣下經造，功成事訖，然後備文物之章，和玉鑾之響，擇時南遷，定都此中。」高祖說：「朕準備巡察各地，到鄴城小停，到了春天就回來，那時再不回去了。」不久任命李沖為鎮南將軍，侍中、少傅等職照舊，委他以營造新都的重任。改封陽平郡開國侯，所封邑戶如故。
皇帝車駕南伐，讓李沖兼任左僕射，留守洛陽。車駕渡淮河，另詔安南大將軍元英、平南將軍劉藻討伐漢中，命令雍、涇、岐三州兵馬六千人準備戍守南鄭，一旦城池被攻下，立即派遣。李衝上表諫說：「秦州地理險厄，位置接近羌夷，自從征西部隊出發之後，糧餉支援連續不斷，加上氐、胡人叛逆朝廷，所在奔命，運糧擁甲，以防不測，至今仍然如此。今又預遣守城士兵，孤單單派到山外，雖然給他們優厚的待遇，臣仍擔心他們會害怕。假如最終攻不下南鄭，那就會擾動民眾，假如他們連結胡夷，事情結果就難以預測了。為臣今又要依旨密令刺史，待軍隊攻克鄭城，然後差遣守軍，依為臣愚見，這個辦法欠妥。為什麼呢？西方道路險惡，往往羊腸小道，綿延千里，而今想深戍絕界之外，孤據群賊之中，敵人進攻不能馬上援救，糧食完了不可立即接濟。古人有言：『雖鞭之長，不及馬腹』，南鄭對於我魏，就是馬腹。況且過去的人攻伐，或有城降而不獲取；仁君用兵，或有撫慰其民而遺其地。而且王者的舉措，情在拯救百姓；夷寇所守，意在愛惜土地。比較二者意旨，德行有其深淺。如果君主聲譽遠播，何止是一城一地的得失？而且魏境所領，九州過八，所統臣民，十分有九。所未為我民者，只是漠北與江外而已。南鄭近在咫尺，何需急急忙忙今天就要解決問題呢？臣認為應待我魏大開疆宇、廣拔城池，多積資糧，足以對付敵人，然後再行置邦樹將，開始併吞之舉。而今鍾離、壽陽，近在眼前卻未拔除；赭城、新野，一步之遙卻未降歸。攻克的城池捨棄而不取，投降的士卒撫慰之後旋即被殺戮。東道既不能因近而力守，西蕃怎能因遙遠而使兵固？如真要設置，為臣擔心這最終是幫助了敵人。又加上現在在中原建都，地接敵寇疆城，正需大收勇士，平蕩長江以南。而輕率派遣單寡兵力，攻守西方孤城，使其陷沒敵手，臣擔心以後採取行動之日，大家以留守為難，不願前往，陛下您要求其將士效死朝廷，也就不易做到了。由此而論，不戍為上策。」高祖接納了他的意見。
皇帝車駕還都，引見李沖等人，對他們說：「朕本想多設官員，考慮到如有人闇弱不明，則政事壅滯。如果那些人聰明獨出，則權勢又會很集中。而今朕雖然說不上是大聰明，也不是愚蠢之人，卿等不叫做大賢之人，但也不是大惡之輩。所以一兩年內，朕想少置些官衙。」
魏高祖自鄴城還京，泛舟洪池，於是從容對李沖說：「朕想從這裡把渠道修到洛陽，南伐的時候，何不從這裡到洛陽，從洛陽進入黃河，從黃河進入汴河，從汴河入清河，而到達淮河？下船而戰，就如出門而斗一樣方便，這是軍國大計。而今溝渠挖建如須二萬人以下，六十天就可挖成的話，應該逐漸修渠以備將來之用。」李衝回答說：「如像這樣，便是士兵沒有遠涉的勞苦，戰鬥起來就有過人的力量了。」遷任尚書僕射，仍領少傅。改封清淵縣開國侯，邑戶不變。等到太子元恂被廢，李沖也被罷免少傅官職。
魏高祖在清徽堂引見公卿大臣，高祖說：「聖人的大寶物，只是官位與功勞，所以功成作樂，國安制禮。而今移宮中土，創居嵩、洛，雖然是大構未成，但大體建制略略具體了。但是南方有被未征服的逆豎，加上凶蠻近在眼前，朕日夜思慮歎惜，只是為此。攻取南方的計策已經決定，朕行動的計劃確定了。如依近代慣例，則天子下帷處深宮之內；准之上古，則有為帝親行，福延七百年的事實。魏、晉當年不征，所以旋即滅亡，福的長短，在德行而不在征伐。今天朕只是不知南征行期的早晚。知道此的難道是神靈嗎，朕既不是神靈，哪裡知道呢。而一向以來，陰陽卜算的人，都勸朕現在出征必定克敵。這既是國家大事，應該是君臣各抒所見，不能因為朕先有說法，你們便只是依從，不發表不同看法了。」李衝回答說：「大夫征戰的常規，先察人事，然後看於卜筮的徵兆，而今卜筮結果雖然吉利，但人事仍未完備。今年秋谷收成不如常年，又加上京師始遷，眾業未定，再加上征戰，臣以為不可。應該等到來年。」高祖說：「僕射之言，不是沒有道理。朕的想法，是為國家社稷擔憂。像南方這樣敵人近在咫尺，我們便無法自安，而今行動，理應如此。僕射說人事未備，也不見得是這樣。朕去十七年，擁兵二十萬，行不出京畿，這人事極盛，卻與天時相違。往年行動，天時合適，而缺人事，又致不捷。如等待人事齊備，又非天時，那怎麼辦？像僕射這種說法，就會總也沒有征討的道理了。朕此番秋行，如不能克敵制勝，你們三君子一起把朕交給司寇處理。不可不人盡其心。」罷議而去。
後來魏世宗立為太子，高祖在清徽堂設宴。高祖說：「皇儲身兼三才，光昭七祖，深得眾望，天人同安，所以招延大家在此就宴，以暢胸懷。」高祖又說：「天地之道，一盈一虛，哪有經常安泰的。天道猶且如此，何況人事呢？所以凡事都有升有降，自古而來都是如此。追昔思今，的確頗值感慨。」李衝回答說：「太子承儲，蒼生鹹幸。但是為臣以前忝居師傅，不能輔弼諧合，有愧蒼天白日，蒙君寬含，能夠參加此次宴會，幸福與慚愧交相迭至。」高祖說：「朕尚且不能及時革除昏弊，師傅又何必如此不安呢？」
後來尚書懷疑元拔、穆泰等犯有罪行，李沖啟奏說：「前彭城鎮將與穆泰同時叛逆，養子降壽應該隨拔定罪。而太尉、咸陽王元禧等人，認為法律條文養子而為罪，父及兄弟不知情的不被連坐。謹慎審察律書意旨，因養子對於其父來說沒有血緣關係，於兄弟也不是一氣相通，親緣厚薄既有差別，所以刑典量罪也有區分，所以養子雖然有罪，而父兄不在牽連之列。這樣父兄犯罪，養子不知其謀，易地均情，也和前面所說的一樣，哪能草草就要被株連呢？道理固然不是這樣。臣以為：依據律文，不追戮於所生，也不從坐於所養，道理很明確了。又律文只說父親不被兒子所牽連，而不說子不被其父牽連，這應當是優尊厲卑的意思。臣元禧等認為：『律文中雖然沒有正面見到此類條文，但互起見制，於給也舉父之罪，於養也見子牽連，這就叫做互起。互起兩明，無罪是必定的。如果以繼養與親生的相同，則父子受牽連都應相同，只明不坐。而且繼養的條文注說：『如有別制，不同此律。』又令文說：『諸官有封爵，如沒有親生兒子，雖然有抱養過繼的兒子，也不襲爵。這叫做有福不及己，有罪便連坐。均事等情，律令的意思，就互相矛盾。揣度法律意旨，必然不是這樣。』臣李沖以為：按例尋條，有罪無疑，體味語情，頗亦同式。」詔書說：「僕射議論，據律明矣；太尉等論，於典矯枉。養子隨父從戮的，按律已經免其生子，所以也不得獨加罪於養子。此獨何福，長處吞舟？對於國家來說有不許繼承爵位的做法，是因為看重列爵的緣故，特為此立制，因天之所絕，推而除之罷了，哪能夠再反過來報以刑賞？就此而論應該連坐而死的，可以特別原諒其不死。」
李沖生性機敏，常有巧思，北邊京都的明堂、園丘、太廟，以及洛陽初基，安處郊兆，新起的宮室，都仗力於他。他勤勉志剛，孜孜無怠，旦理公務，兼營建造，文案上堆滿文牘，手中常拿刻刀，始終不覺勞累。這樣的位置使他一門盡斌，他務求照顧六姻親戚，兄弟子侄，都有官爵，一家人每年的俸祿，都在萬匹以上，只要是他的親戚，即使是癡聾的殘疾人，也無不做了大官。當時輿論也因此而對他頗有微詞。
李沖剛到四十，但他鬢髮便已斑白，容姿相貌豐岸偉美，看不到一點衰老的跡象。李彪入京之後，孤身一人，沒有可憑仗的人，而他又自立不群，覺得李沖喜歡交結人，便傾心攀附。李沖也十分重視他的才器學識，禮貌地收容了他，經常在高祖面前提起他，公私場合都忘不了出力相助。等到李彪任中尉，兼任尚書，為高祖所厚待，便聲稱他並不是憑借李沖才上來的，而且對他很不禮貌，只是在公共場合斂袖作個揖而已，不再對他表示尊敬了。李沖心中很不痛快。後來魏高祖南征，李沖與吏部尚書、任城王元澄二人以李彪傲慢無禮的罪名，把他囚禁起來。上表列舉李彪的罪狀，李沖親自製作，家人一點也不知道，表奏措詞激切，引咎自責。高祖看了他的表奏，歎惜悵惘良久，接著說：「道固可以說驕縱橫溢，僕射也稱得上意氣自滿。」李沖聽說，當時便勃然大怒，不斷數落李彪前後的過失罪行，怒目圓睜，放聲大叫，砸折書案。盡數關起御史，把他們全都以泥塗首，綁赴到皇帝面前，口出污言，潑口大罵。李沖一向性情溫和柔順，而一旦暴怒，便爆發疾病，神情驚悸，言語錯亂，而且捋袖拍案，大罵李彪是小人。服湯吃藥，也不能救治他的病，有人說他的肝臟受到傷害，已損壞破裂。十多天後便死了，當時才四十九歲。魏高祖為他在懸瓠舉哀，失聲痛哭，悲不自勝。下詔曰：「李沖貞和資性，德義樹身，訓導自家，盡忠於國。太和初年，朕未成年，早委軍國機密，實在有功於國，後來，他官位漸高，參與選拔官員，進退升黜，全憑他一手操辦。他忠誠自律，柔順明達，足以稱得上是睿智的典範，仁慈恭敬誠愛惠明的品質，經常受到民眾的擁戴。他真可以稱得上是國家的賢才，深受朝野看重。為此，朕剛剛把他提拔到較高的位置，以表彰他以前立下的功勳，沒想到他竟早早就喪逝，朕豈能不悲痛於懷。既留勤應升，加過去宜獎，可贈他為司空公，賜予東園秘器、朝服一套、衣一套，贈錢三十萬、布五百匹、蠟二百斤。」有關部門奏請謚號為文穆。在覆舟山下葬，墳墓鄰近杜預墳塚，這是高祖本意。後來，皇帝車駕從鄴城還歸洛陽，路過李沖墳墓，身邊的人告訴高祖，高祖臥病望墳，掩泣良久，下詔曰：「司空文穆公，德行為一時所宗，功勞深慰朕心。不幸去世，托墳邙嶺，朕經過這裡，凝望墳塋，悲其仁、思其舊，痛不自勝。可備太牢祭奠，以寬釋朕思念之情。」等到高祖與留京的官員見面，大家都說起李衝去世的原因，紛紛流著眼淚。高祖得到官員們的啟奏，知道李沖患病的原因，對左衛宋行說：「僕射掌我國家大機，總攬朝中事務，清儉盡職，恩寵已久。朕以其仁愛明達、忠誠儒雅，托付給他代管朝政，使我出境無後顧之憂，李沖忽然有這個病患，朕很是悲涼愴慨。」高祖是如此地痛惜李沖。
李沖兄弟六人，分別為四母所生，兄弟之間，很有些矛盾隔閡。等到李沖顯貴起來，封祿恩賜都與他們共享，大家變得和睦起來。李沖父親去世後兄弟們一起居住達二十年之久，到了洛陽才各建宅第，兄弟之間相互友愛，很久都沒有矛盾發生。這都是因為李沖的德行所致。一開始李沖受到長兄偏愛，兄子李韶常有憂鬱之情，擔心會導致傾敗。後來他榮名日顯一日，漸漸便安心下來。而李沖為官時起，圖謀任用自己的人，自始至終，毫不隱諱。他察時推運，都是跟這類事情一樣。兒子延實等人傳，記在《外戚傳》。