劉萛字子真，平原高唐人，是漢代濟北惠王劉壽的後代，父親劉廣，是斥丘縣令。劉萛少年貧苦，賣牛衣為生。然而勤奮好學，編牛衣時，手裡拿著草繩，邊編邊誦書，故能博通古今。為人清身潔己，行為無瑕疵可指。郡裡舉為孝廉，州里舉為秀才，都未任實職。後以上計吏身份入洛陽，調為河南尹丞，又遷為尚書郎、廷尉正，又任吏部郎，為晉文帝司馬昭相國軍事參謀，封為循陽子。
鍾會、鄧艾伐蜀時，有個門客問劉萛：「二將能平蜀嗎？」劉萛回答說：「破蜀是必然的了，只是兩人都不得生還。」客問什麼原因，劉萛笑而不答，後來果然如劉萛所說。劉萛有先見之明，這只是一個例子。
因世人多趨走鑽謀，清廉謙遜之風衰，劉萛著《崇讓論》以矯正世風，此文內容是：
「古代聖王之教化天下，所以以讓為貴者，是為了薦拔賢才，平息爭端。人之常情都想自己是個賢者，所以鼓勵人們讓賢以表明自己是賢者，哪有賢者讓位於不賢者呢！所以謙讓之風興，賢能之人就不求自出了，薦拔人才也自然會公道了，百官的副手接替者也會事先具備了。一個官位有缺，可以選擇眾官所讓最多的那個人去任職，這是審察賢才的一個方法。在朝之士相讓於上，草廬之人就會被感化，推賢讓能之風就會興起。被一個郡國所推讓的人，就是一個郡國的賢士；被天下人共同推薦的人，就是天下的賢士。推讓之風興盛，則賢者與不肖者就顯然分明了。實行這種辦法，居上位者不須勞神費思，根據大家的清正議論，順隨輿論就可以了。所以經典上說，堯之為君是多麼廣大啊！簡直無法用語言來形容。這是說天下無為而治，看不到堯是怎樣教化天下，所以無法形容。書上又說，舜和禹為天下之君而不參與其事，無為而化的是舜啊！賢人相讓於朝，大才之人常任大官，小人在下不爭，天下也就無事了。以賢才使天下化為無事，大道也就興隆了。人君仰受已成之治，又何必參與其事呢！筆可以歌《南風》之詩，彈五弦之琴。能夠如此成功，沒有其他，是推崇禮讓得來的。孔子說，能以禮讓治國，則國家就不難治了。
「當今在朝之人不知謙讓，且由來已久了，天下也為此風所化。自魏代以來，被薦拔徵召的士人，以及在職的官吏，臨受命任官的時候，雖也謙讓說自己不勝任，而終不肯讓給比自己強的。推讓之風息，競爭之心生。孔子說，上興辭讓之風則下無爭奪之事，說明無辭讓之風則下民必爭。推讓之道興，則賢能之人經常被推舉；競爭之心生，則賢能之人經常被譭謗。競爭者自己想佔先，就會憎惡賢能者領先，也就不能無譭謗之言了。故孔子、墨子不能避免世人譭謗自己，何況不及孔子、墨子的人呢！議論者都說，今世缺少有高名的賢才，朝廷也無可以任大官的大才之人。山澤之人和小辟吏也說，朝廷中雖有任大官的有德有名之士，然都不如以往的人物。我以為這兩種說法都有失誤。並不是今世獨乏賢才，而是當今無貴讓之風。一個人有超出眾人的聲譽，譭謗之言隨之而來，賢才不能成名，所以才覺得沒有賢才。雖使堯之賢臣稷、契生於今日，也不能有完好的名聲，好壞混雜，優劣不分，賢士沒有平素形成的好評價，官職有缺，主選的官吏不知用誰，只得按官位次序提拔。才能相同而被優先選用者，不是勢家之子，就是與有勢者有瓜葛。這些人自身無才能，優先授予的官爵又成為被提拔的資本，因而又會不斷遷升，遷升不已，就會發生不勝其任的問題。觀今日在官之人，政績平庸無聞，不是勢家之子，則多是憑資歷提拔起來的人。
「假如天下貴讓，士必由於被讓而成名，名既成則官方才得選拔用他。那些無名無行的人，在官無政績可稱，就必然會讓位了，官方也無理由任用他。然而這些人還是被任用而不休止，正是由于謙讓之道廢，按資歷用人的弊端長久不能糾正。經常舉行大推薦，令眾官各舉所知賢人，唯才是用，不限階次，這種做法漢魏以來就很少有了。所舉的人必有恰當的，而不聞有經常被任用的，這是因為不知道誰最賢。所舉的人必有不當的，而不加罪，這是因為不知道哪個最不肖。所以不知誰賢誰不肖，是因為當時之人不肯相推讓，賢愚之名沒有區別造成的。推薦者知道上級官吏不能詳察被推薦的人，故敢隨意推薦。或推薦賢人時，順便帶上自己的親故，優劣一起上報，超過正常人數，各言所舉者儘是賢人，加上故意拔高的不實之辭，被描繪得一樣賢能，難以分出高低。優劣相雜，真偽同列，便是由此產生，日甚一日。這雖然是推薦者不忠於國家的罪過，也是由於上級官吏聽察不嚴，才使他們能這樣做。昔日齊王好聽竽，必令三百人合吹爾後才聽，一人吃數人的俸祿。南郭先生是個不懂吹竽的人，認為三百人合吹可以混進去充數而不會被發現，就請求為齊王吹竽，白吃數人的俸祿。嗣位的新國王覺得三百人合吹太奢侈而加以改正，又怕是張揚先王的過錯。於是下令說：『我比先王還喜歡聽竽，只是想一個一個地聽。』南郭先生於是逃走了。推賢之風不興，濫舉之法不改，則南郭先生之類的人就會充斥於朝廷。才高守道之士日漸引退，趨炎附勢的人日漸增多，雖然國家有典章刑法，也是無法禁止的。
「謙讓之風不興的弊端，不只是使賢人在下位不能晉陞，那些肩負重任的國家良臣，也將漸受其禍而被逐退。何以見得呢？孔子認為顏回不重複犯一種錯誤，說明不是聖人誰都會有過錯，高官厚祿很多人都想爭得，憎惡賢能的人堵塞道路，良臣有過，詆毀他的人也會很多，譭謗的產生也並非全無根據，必然抓住些小餅錯加以誇大。譭謗之言不斷傳來，在上者雖不願採納，也不能不根據傳聞而加以考察，反覆考查，總可以得到驗證。得到驗證，怎麼可以不治其罪呢！若知道有罪而加放縱，則人主的威望日衰，法令不行會從此開始。知道的事都加以處理，被加上罪名而逐退的就多起來，大臣會人人自危。賢才不能進用，大臣日益疏遠，這是人主的一大憂慮啊！《詩經》上說：『受祿不讓，會導致滅亡。』不知謙讓之人憂慮自身的危亡還來不及，而指望他有益於國家朝廷，不是很難嗎？
「我以為改變這種風氣也是很容易的。怎見得呢！目前在官位的人，雖然也混雜一些平庸猥劣的人，而其中也有很多賢明的，怎能說他們都不知道讓賢為貴呢？只因為當時的人都不讓，形成風氣，這些人也就隨俗而不讓了。人臣在開始被授予官爵時，都要寫表章上報皇帝，名叫謝章，很久以來都是如此。謝章的本來用意，是推薦賢能，感謝國家之恩。昔日舜以禹為司空，禹叩頭拜謝，把官位讓給稷、契與咎繇。舜使益做虞官，益讓給朱虎、熊、羆。使伯夷掌管三禮，伯夷讓給夔和龍。堯舜時代，眾官初被任命時，沒有不讓的。謝章的用意就在於此。《尚書》把這些事記載下來，是要永久作為後世的楷模。到了末世，人臣也寫謝章，但不賢者不能讓賢，只是虛假地感謝被提拔之恩罷了。這種做法相承不變，也是形成不良風氣的結果。
「分級提拔任用之官，能呈報章表者，章表中能讓賢推能就通報，不能讓賢白費紙張的章表，一律不予通報。人臣初受官，都應考慮推讓賢人，讓賢的章表交給主管此事的人保管。三司有缺位，就選擇被三司推讓最多的那個人加以任命。這就是一公缺位，三公就預先選好了補缺者。況且主選之人不是三公而選三公，不如讓三公共選一公，後者更瞭解被選者的詳情。四征缺位，選擇被四征推讓最多的人任職，這就是一征缺位，四征已選好了補缺者，這樣選出的人，比停缺後由主選辟選的更加準確可靠。尚書缺位，選擇被尚書推讓最多的人任職，這就是八個尚書共選一個尚書，比缺位後由主選者臨時選定的人更加準確可靠。郡守缺位，選擇被眾郡推讓最多的人任職，比主選者選擇的郡守更準確可靠。
「以眾官百郡所讓與主選者所選作比較，真是不可同年而語。雖再令太尉、司徒、司空這三府共同選辟，因為這三府都不是受權專門選辟的，他們也不能專心致志於此事，所用精力不過十之二三，只讓主選吏按官位高低來選拔，是選不到精良人才的。賢者愚者都知讓，百姓耳目就成了國家耳目。人情相爭則總想譭謗比自己強的人，人情相讓則會推薦比自己強的人。故世有相爭之風則毀譽混雜，優劣不分，難得推讓。世有相讓之風，則賢智者顯著，才能大小會依次而列，是不會混淆的。此時，那些能推讓修身的人，被別人推讓的機會就會多，即是他甘心守貧賤，也是不可能的。那些奔走鑽謀的人要想別人推讓於他，就像倒退走路而想前進一樣。如能這樣，不管智者愚者都會知道要進身仕途，非嚴於修身律己是沒有途徑的。在外宦游求官者，就會相隨而歸。浮誇虛論者，不必禁止自己就會停息了。人人都用不著費心經營，任憑眾人評議，則天下就會自然形成良好風氣。不須教誨而風俗淳化，崇高的美德就會日漸顯著。讓賢可以達到這樣的效果，怎能不大力倡導實行呢！
「《春秋傳》上說：『范宣子能讓，他的下屬都讓，欒..雖然奢侈，也不敢違背。晉國因此得以安定，幾代人都有賴於他的恩惠。』盛世所以能教化大行，是因為君子崇尚才能而又能對下謙讓，小人努力耕作而盡義務，上下有禮，奸佞邪惡之人被斥逐，這是由於不爭的結果。到了亂世，國家的各種弊端，常常也是不讓而爭造成的。深刻的道理又是如此明白。在朝的君子們選拔大官時，能不因作者人微而廢棄此言，付諸實施，都以讓賢舉能為急務，就會群才輩出，能者與無能者顯然區別，這就是蓋世之功，沒有比此功再大的了。」
泰始初年(265～274)，晉為伯爵，多次陞遷至少府。咸寧年間(275～280)為太常，轉為尚書。杜預伐吳時，劉萛以本官兼行鎮南軍司的職務。
當初，劉萛妻盧氏生了兒子劉躋就死了，華氏準備把女兒嫁給劉萛。劉萛之弟劉智對劉萛說：「華家的人都貪婪，必會使你家破敗。」劉萛辭不掉這門親事，終於和華氏結婚，生子名劉夏，劉萛終因劉夏受賄賂牽連而被免官。不久又任大司馬，又因劉夏犯罪而被免官。
劉萛每次回故鄉，故鄉人總是帶著酒肉去看望他。劉萛難於謝絕盛意，就和鄉人一起吃喝，把剩下的酒肉讓鄉人還帶回去。有人對劉萛說：「君廉潔之行高於當世，而您的兒子不遵父道，何不經常切磋教誨，使他們知過自改呢！」劉萛說：「我的所做所為，他們都耳聞目睹，而不能模仿學習，教誨怎能使他們改變呢！」世人以為劉萛這話是對的。
後來又起用為國子祭酒、散騎常侍。愍懷太子初封為廣陵王，高標準選擇師友，以劉萛為太子師。惠帝元康初年(291～299)，晉爵為侯，多次陞遷為太子太保，加侍中、特進、右光祿大夫、開府儀同三司，領冀州都督。元康九年(299)策命拜為司空，遷為太保，又轉為太傅。
惠帝太安初年(302)，劉萛因老病遜位，皇帝賜安車駟馬、錢百萬，以侯爵身份回府第。長沙王與成都王互相攻伐時，劉萛被軍人擄掠，潛逃回故里。
惠帝死，劉萛赴陵墓弔祭。懷帝即位，又授給太尉之職，劉萛陳說年老，堅意辭讓，懷帝不許。左丞劉坦給皇帝上奏說：「樓堂高而台階長，人主尊而宰相貴。所以古之明王莫不以元老舊臣為師，以推崇養老之教，訓示四海，使少長有禮。七十歲可以卸職養老的規定，也是為了優待有德舊臣，鼓勵廉潔高風。太尉劉萛有清高樸素之操守，廉潔之風始終不渝，懸官車而告老，已二十餘年，浩然之志，老而更堅。可謂國之元老，邦之楷模。臣聞老人不強調勞費筋力的禮節，劉萛年過九十，命在旦夕，勉強扶持，冒險至京師，臨惠帝之喪，表哀情於山陵，致敬意於宮闕，大臣之節完備無憾。聖詔表慇勤之意，必使劉萛居台輔之位，以增國光，斷其謝章，加以曉諭，事情已拖了二年。而劉萛頻頻上表，辭讓之意誠懇。臣以為古之養老，不以事煩擾為優待，不以授官為尊重，我認為應聽從劉萛所堅持的意見。」
懷帝永嘉三年，皇帝下詔說：「昔舜任命五位大臣，垂衣拱手而使天下大治，漢任蕭何為相，有『民以寧一』的歌謠，故能光耀於當時，垂范於百代。朕承天命，駕御萬邦，所以能夠顯揚治國之道，有賴於元老大臣百官之長盡鄙肱之力，以達到盛世之望，而君年邁告老，確實難違尊意。今聽從您的意見，以侯爵回府第，位居三司之上，俸祿依舊，賜幾杖，不朝拜，賜宅一區。國家大政，將派人到府第咨詢於您，這也符合我的願望。」過了一年多去世，終年九十一歲，謚號為元。
劉萛少年貧困，出門往往持杖步行，休息住宿時不麻煩主人，燒水做飯都是自己動手。官位顯赫時，仍崇尚儉樸，不愛奢華。他曾經到石崇家做客，要到廁所去，見廁所有華麗的帷帳地毯之類，兩個婢女手持香囊伺候。劉萛就退出來，笑著對石崇說：「誤入君內室。」石崇說：「那是廁所！」劉萛說：「貧士未曾享過這樣的福。」又到別的廁所去了。雖處於榮盛受寵的地位，居住沒有宅第，所得俸祿，都接濟親故。當時雖禮教衰微，而自己仍按禮行事，舉止規範，喪妻時行廬墓持杖的喪制，守喪畢仍不近婦女，輕薄之人都譏笑他，他也不介意。自少至老，勤學不倦，雖在官職，卷不離手。尤其精通《春秋三傳》，曾辨析《公羊傳》中衛輒不應辭王父命，祭仲失掉為臣之節，舉此二事說明臣子之規範，所著流行於世。又撰《春秋條例》二十卷。
劉萛有二子：劉躋、劉夏。劉躋字景雲，官至散騎常侍。劉夏因貪污被棄逐於民間。