劉頌，字子雅，廣陵人，是漢代廣陵厲王劉胥的後代。劉家是世代名門望族。周郡還有雷、蔣、磣、魯四姓，都排在劉姓後面。時人為此說到：「雷、蔣、磣、魯，劉為最祖。」劉頌的父親劉觀是平陽太守。劉頌年少時明辨事理，被時人稱頌。考察後推薦為孝廉、秀才，他都不就任。晉文帝徵召為相府掾，奉命到蜀地出使。當時蜀地剛平定，百姓飢餓土地荒蕪，劉頌上表請求賑貸，沒等回報便實行，為此被除名。
晉武帝繼位，授尚書三公郎，掌管法律，審理冤獄。幾次陞遷至中書侍郎。咸寧年間(275～279)，詔書命劉頌與散騎郎白褒巡視安撫荊、揚兩地，因出使符合皇帝旨意，轉官黃門郎。升為議郎，任廷尉。當時尚書令史扈寅無罪下獄，詔令劉頌考核究竟，劉頌堅持無罪，扈寅才得以免禍，時人把他比為漢代的張釋之。他在職六年，號稱最詳察公平。時遇吳國平定，諸將爭功，派劉頌考核此事，劉頌定王渾是上功，王睿中功。武帝認為劉頌持法失理，貶為京兆太守，還沒就任，又改任河內太守。臨行前，上奏有利國家之事，多被採納。郡界有很多公家主辦的水碓，阻塞流水，漸成水災，劉頌上表廢除，百姓獲得方便。不久因母死去職。服喪期滿，除任淮南相。在職期間嚴肅公正，很有政績。先前修治芍陂，每年用幾萬人，當地豪強互相兼併，孤獨貧窮的人失業，劉頌讓當地人戮力同心，按功勞大小獲利，百姓稱他公平。
劉頌在郡內上疏說：
現在民間少名士，百官無高才，是什麼緣故呢？公正的評論不引進，人們不樹立好品德，行為苟合取容，所以沒有名士。下面無專門機構，又不實行考核官吏的制度，官吏不竭盡臣節，所以沒有高才。沒有高才，就有憎惡世俗的事；缺少名士，後來的入仕者就沒有標準，所以我想制定考核和採納公正的評論的制度。追求富貴而厭惡貧賤，人理如此。聖明君王完全熟悉萬物人情，知道人欲不能除去，所以使公私的利益齊一，卻使達到公私之利的途徑曲折相通，使那些想富裕的人必須先從貧困開始，想要顯貴的人必須先安於貧賤。安於貧賤就不會自負賢能，不自負賢能然後才會對廉恥嚴肅；守住貧窮的人一定會節制私慾，節制私慾然後操行保全。用這種態度處理公務，才會盡心公職。盡心公職的人是富貴之徒；因為沒有私心的人最終得到他的私利，所以說公私的利益是相同的。現在想富裕的人不經過貧困就能得到富裕，想顯貴的人不用安於貧賤就能得到顯貴，公私的道路既已乖戾而人情又不能沒有私心，私人的利益不能從公家得到，就常常背棄公家而從事邪門歪道。因此風骨氣節一天天傾頹，公理漸漸廢棄，人們求富貴，不是遵循法制獲得的。以此為政，小治和大治難以期待。然而政教頹廢由來已久，難以一朝改正。外加世風放縱奢侈、鑽營貪慾之人比肩，群士糊塗，平庸和能幹相似，不可馬上肅清，晉陞和貶黜也不可完全不同。再說政教不求盡善盡美，善在遏止過失，同樣奢侈之中，還有更奢侈的，要使那些愚昧地縱情享樂的人，失去那顯榮的富貴，瞬間處在不潔淨之地；約束自己潔淨樸素的人，受到節儉品德的回報，位列於清官之上。兩類人清濁分流，使他們各有所報。然而世俗放縱奢侈，不可馬上肅清，所以我私下想，希望先從事於疏導工作。
天下特別大，各種事情特別多，國君又只有一個，跟天上的太陽一樣，所以不是靠耳聞所能周覽的。因此聖王的教化，是執掌精要而已，把各種事務委託手下而不用瑣事束縛自己。分掌職務已定，不必參預其事，並非怕忙碌到太陽偏西的辛勞，也不牽涉到安樂的考慮。的確是因為政體應該如此，事物的趨勢致使這樣。為什麼？創造謀劃的開始，而對昏暗是非，區別能與不能，是很難詳察的。已經施行，根據成功失敗，區別功勞罪過，是很容易識別的。容易識別在於考察結果，難以詳察在於創業開始，所以人君常常居於易識就安定，人臣不處在難察的開始就混亂。現在陛下每每精於事情的開始而略於考察結果，所以眾官吏考慮事情懷有成敗憂懼的份量小，而粉飾文采來躲避眼下的譴責份量重，這就是政治不好的原因。而今人君能經常居於易識，掌握大權駕御臣下，然後臣屬的功績罪過顯現在成敗得失的事實中，無法逃脫誅罰或獎賞。所以罪責不能隱藏，功勞不能謊報。功勞不能謊報，有才能的人就勸勉；罪責不能隱瞞，乖戾簡慢之人就一天天肅敬，這就是治國的大要。我私下認為陛下的想法，旨在盡善，擔心政事有差錯，所以精心考慮事情的開端，以求沒有過失，又因為百官中勝任的人少，所以不把事務委託臣下，寧可自己辛勞到太陽偏西。以我愚鈍的想法，認為現在想要盡善，就應考察結果。為什麼呢？因為精慮開始難以考核。另外百官多不勝任，也應該交辦事務，使能臣得以成就功業，無能之人得以顯露失敗。失敗顯露可以廢除，功業成就可以繼任，這樣以後賢能的人常常在位做好事情，昏昧愚劣之人就不能白拿俸祿傷害政事。像這樣堅持下去，那麼勝任的人逐漸增多，稍稍經過幾年，就連下層官吏也普遍得到能士了。這種考核才能實績，是政治的重要事務。現在國君不交辦事務期待成功，卻跟臣下共同謀劃事情開始，那麼功績罪責就難以分辨。下臣不主事，在職不久，所以能幹與否不能區別。憑什麼驗證呢？現在的官吏絕對不會都有才能，也絕對不會都是辦事拖沓無能之人。可是現在想推舉一名忠賢，卻不知獎賞誰；找一個敗壞職守之人，卻不知懲罰誰。至於被罷免屏退的，是自己犯法罷了，並非因為他們無能。陞官晉級的人只是憑累積的資歷以及民間的讚譽而已，並非他們有功勞實績，如果說不是這樣，那麼當今的朝政不符合聖君旨意，這就是驗證。陛下用現今的辦法執政將近三十年，可是功績沒有日新月異，其過失在哪裡？古人曾說過：「琴瑟不協調，嚴重的就要改弦更張。」我所說的，實在是政體的常規，不過古今不同時宜，所遇的時事不同。陛下您即使不能全部坐享其成，對臣下全部交辦事務，至如現在應奏明聖上的事，免除不急之事，使重要的事務能精簡大約三分之二。
古時候六卿分守職責，太宰為六卿之首。秦漢以來，九卿官職，丞相總管。現在由尚書專斷裁決，其他卿士相助促成，對古制來說是重複設職，按事理而言不是必須，可是現在不能省並。可以把眾事交付宮外官署，讓他們專斷，尚書是總管，跟丞相的職責一樣，只有主法度，創典制，斷死生，除名籍，定流放，議罷免等大事，以及連年的財賦收支之事，台省才上奏處理。其餘事情外官都可以專斷，年終由台閣考校功績罷了。這是九卿開創事業的開始，決斷行事，尚書主宰，以賞罰為準繩，那形勢一定超過考核官吏成績，掌管人們的錯誤過失。眼下親自掌管的人動不動受到上面的成制的約束，上面所犯過失，不能再怪罪下級，年終事績不建立，不知該責罰誰。監察的官吏按法律推舉的罪責，刑獄官查證完全屬實，法官根據陳辭堅守條文。大體雖然相同，可等到使用時，監察官跟那執法刑獄官的實踐應小有差異。刑獄官重事實，法官重法律條文，監察官卻要舉大事略小事，為什麼呢？那細小的過失缺點，謬誤之處，這是人們常情中所一定有的，如果都用法律糾正，那麼朝廷內外，沒有十全十美之人，這就是人們所說本想治理卻反而混亂的情況。
所以善於為政的人抓住百要，而使法網寬鬆，抓住百要則所搜羅的廣博，法網寬鬆則小事必定疏漏，所搜羅的廣博為政就不苛刻，這是為政的關鍵。可是自從近世以來，為監察官的，大體是大綱不張，而小錯必舉。小錯不足以傷害朝政，列舉小錯則小事更加混亂；大綱不張，就會豪強橫行肆虐，豪強橫行肆虐，那麼百姓就失去職業了，這是使所急之務錯亂顛倒的原因。現在應該讓有司恢復常規之政，使天下能長於教化。做到這樣並不難，國君不以瑣碎的案牘為善，一定要求得冒犯強權、薦舉罪過的奏章，論處完全公正，那麼傷害國政的奸佞自然被擒了。那些罪大惡極冒犯朝政禍亂萬民百姓的罪人，大都出自富強之人，豪富之人勢力足以使人懼怕，財貨足以滿足慾望，因此當地官長顧忌勢力而擱筆不奏。下面官吏放縱了奸佞，又害怕所主管者責備沒有舉報，就用細密的法網來搜羅細小的罪過。致使彈劾的奏章相連，貌似盡心公職，其實歪曲法律、依法不明的現象就已經在其中了。不但對政體沒有好處，公正的議論也因此而倍受傷害。古人曾說過：「君子的過失，如同日蝕。」又說：「錯了能夠改正。」又說：「不犯兩次一樣的錯誤。」以上幾句，都是說賢人君子不能沒有錯誤的話。只要不達到傷害政治的程度，就都是朝政所應疏漏的；如果所犯罪行很重，然後才用國法治罪，這是舉罪行深淺為例來說明。
所以君子能成全美德使政事完善，不善之人一定遭受殺戮警告眾人，這是治理國政誅戮赦免的標準。為什麼呢？所謂賢人君子，如果不能沒有過錯，小毛病不可以廢棄其身，卻總是繩之以法，就有愧於聖明的時代。為什麼呢？雖然有所觸犯，但所犯輕重很不同，而在士人君子心中雖受到的責罰不同可是名稱卻沒有區別，所以不法之徒能夠引用這些名稱自行倣傚，迷惑眾聽，由於名稱混亂，要憑借人力使它正直，所以公正的議論倍受傷害。大凡列舉過失彈劾邪惡，是將要肅清諷刺議論，整飭當世的正統思想，現在列舉小餅失，公正的議論更加頹喪。因此聖人深深瞭解世情通達政體，所以他們說：「不因一次小餅錯掩蓋大德。」又說：「赦免小餅失，舉薦賢才。」又說：「不要求一個人十全十美。」所以皇冠的前面懸著玉串，皇冠兩旁用綿制物擋住耳朵，意思是審斷善惡一定要取突出的，然後才能既簡明又不疏漏，大罪必遭誅戮，法制禁令容易保全。為什麼呢？傷害法制在於犯大錯，如果謹慎小心地搜集細小餅失，無異於把兕牛豹子放在大路上，卻禁止老鼠在牆角縫隙偷竊。古人有言：「夫鉞之刑不用，而刀鋸卻日漸用舊，不能為政。」這是說大事緩慢小事苛急。現時政治的失誤，稍稍有這種情況，陛下應反其道去探求，就能達到所追求的目標。
權宜之制不可作為常道，政治乖謬不可保持安定，這是說進攻防守的方法不同，百姓雖然愚鈍，希望不會憑空產生，必定因時事而發。有原因而發出的期待不可改變；事情變化與以前不同，則時勢不可違背。聖明君主通曉政體，適應趨勢之快，不等下車，所以行為能合乎事情的時機，廣泛得到人情。先前魏武帝曹操分割天下，使人們差役和居住去處各在一方；既是事情形勢所需，又是有意而為，權且假借一時，以奔赴所追求之事，不是正典。可是遲疑徘徊至今，積年累月而不改，百姓雖然身受其困，卻不生私怨，的確因為三方割據沒有全部平定，知道時勢不可以謀求安定的緣故。因此甘心服役如同回家，面對危險如同平安。等到平定吳國之時，天下嚮往安寧，而東南兩方的六個州郡的軍隊，將士和武官，戍守長江之外，有的負責京城水上運輸，父親在南兒子在北，家室分離，都不安定。又不服水土，運輸的差役辛勞困病，並且有死亡的禍患，其勢不能持久。這應該廣為安置，以符合眾人的願望。魏氏錯誤的差役，也應改從舊制。這兩件事各盡情理，那麼百姓感懷天子恩德，謳歌生逢盛時一定是現在的十倍。自從董卓作亂直到如今，將近百餘年，四海辛勞疲病，百姓困苦到極點了。天下歸為一統，從今日開始，萬民思念安寧，不是幻想。不過古今時宜有異，所遇不同，的確也不能希望遵循昔日的舊法，任他們放馬養牛；但是讓受各種雜役的人不出封國，軍卒在他鄉里執事，實在是可行的。即使不能全部這樣做，只要全部合理，就可安定三分之二，官吏的差役可以在千里之內。只要像這樣，天下所蒙恩的人就已經不怨恨了。
政務頭緒多，不完全合理的世事，很難用此疏遍舉，提綱挈領，大要有三條。大凡政治要寧靜，寧靜在於止息差役，止息差役在於無為而治。倉庫要充實，充實在於對農民有利，對農民有利在於官府平衡糧價。為政要講究信用，講究信用在於選拔賢能，選拔賢能在於為官日久，為官日久不難，連任同一級別，除非才幹合宜，一般不轉任他職以完成最終的考核，其事就好了。官府平價售糧已有成制，不完備的可以補充周全，五穀就積聚了。無為不是別的，去掉辛勤的勞作，抑制貌似有益而實際有害的功利。如此而已，則天下就安定了。這三條已經實行，即使不能敦厚教化，也可以安定國家而有餘了。君王的利益，在於讓天地自然的財物生長，農業就是這樣。國家所樹立的都是為了這一方面，就的確會有功德利益。如果妨礙農業，都務求止息，這只是貌似增益實則有害之類。然而現在國家自有必須做的事，不能停止，或者用功很少而成就很大。眼下去做，雖然稍有廢棄，可此計最終要獲大利益。勸農之官有十倍百倍的好處，或有妨害，開始好似不急，最終成為大患，應該加倍用功，以防止他加劇。如果黃河汴水將合，沈萊之役果真有利，那些勞役就不能停息。諸如此類，也是不得已的。然而事情要考慮緩急，權衡輕重，除非近期像這一類事，可以此為標準，才可以興起勞役，其餘的事都要力求靜息。然而能夠善於計算輕重，權審時宜，知道可興可廢，是很難明瞭的，除非智力特出，才能高遠之人；否則，不能擔當此任。開創美好的基業，功勳在於把基業傳給子孫，讓後代賴此安定。基業安定，即使昏庸也是聖明，即使愚鈍還算聰智。成就世代功業的人，其實是善於教化，旨在安國。至於修飾官署，各類勞役常常傷於過分奢侈，不必擔心功役不興，這些都是將來不待陛下而自己能幹的事。至於承蒙前代緒業，需要依靠聖君的，實在是留傳好的風尚維繫人心，威烈匡扶幼弱，如今辛勤勞作的事不是後代必須之事，卻傷害了後代所依仗之事。權衡這兩樣，哪是當務之急，陛下稍加考慮仔細選擇安定基業的辦法，那麼治國大理就完善了。
世上的私下議論，把陛下跟漢文帝相比。我以為聖德的好壞，將在以後，不在當今。為什麼呢？陛下如龍飛鳳翔，應天命即位，已有創基業的功勳了，掃滅強大的吳國，出征南海，又有業績。憑借天子的顯貴，卻親自奉行平民布衣所難之事，孝順節儉的美德，冠蓋百王，也已具備了。履行應做的事不論鉅細，動則成為法度，又具備了。如果使自身朝政美好，建立牢固的藩屏，使晉代天長地久，後世瞻仰遺跡，考核功績，實可以跟商湯周武媲美，哪裡只是漢文帝呢！我的這些話，不是我褒揚君上飾美的虛辭，事實確實如此。如果賴以資助天下安定的辦法不盡合適，那麼恐怕好史官記載歷史功勳，也不能褒揚弘美，很是可惜。然而不能讓執掌朝政的大臣參與謀劃，陛下經過較長的時間，最終定會有所成就。希望陛下稍稍留意我的話。
元康初年(291)，劉頌隨淮南王司馬允入朝。時值誅殺楊駿，劉頌在殿內屯聚衛兵。當晚，詔書讓劉頌任三公尚書。又因上疏議論律令，為時論所稱美。過了很長時間，轉任吏部尚書，建立九班之制，要讓百官居位望陞遷，考核能否，以明賞罰。時值賈充、郭彰專斷朝廷，入仕者都想快點晉陞，劉頌的方法最終未實施。
及至趙王司馬倫殘害張華時，劉頌哭得很傷心。後來聽說張華的兒子得以逃脫，高興地說：「茂先呀，你還有後代呀！」司馬倫的同黨張林聽說此事大怒，怕劉頌主持公道而不能傷害。孫秀等人推崇司馬倫的功勞，應加九賜，群僚沒有人敢提出異議。劉頌卻說：「過去漢代賜給魏代，魏代賜給晉朝，都只用於一時，不可以通行。現在宗廟太平無事，雖然寵後被罷退，權臣被誅戮，但漢代周勃誅滅諸呂，推崇孝文帝，霍光廢除昌邑王劉賀，推崇孝宣皇帝，都沒有受九賜之例。違背舊典而習於權變，並非先王之制。九錫之議，請不要實行。」張林忿恨不已，以為劉頌是張華的同黨，準備殘害他。孫秀說：「誅殺了張華、裴危頁已經傷害我們的聲望，不能再殺劉頌。」張林這才罷休。於是任劉頌為光祿大夫、門施行馬。不久病死，天子派使者弔唁，賜二十萬錢，一套朝服，謚號叫貞。中書侍郎劉沈提議，劉頌當時是少輩，應該贈號開府。孫秀一向憎恨他，所以沒同意。劉頌沒有兒子，收養其弟劉和的兒子劉雍也早死，便以劉雍弟弟劉翊的兒子劉焉為嫡出長孫，繼承封爵。永康元年(300)，詔書認為劉頌誅滅賈謐督理眾事有功，追封為梁鄒縣侯，食邑一千五百戶。
當初，劉頌把女兒嫁給臨淮的陳矯，陳矯本是劉姓的兒子，與劉頌是近親，出外寄養姑姑家，改姓陳。中正劉友譏諷他，劉頌說：「舜的後代姚姓、虞姓、陳姓、田姓本是同一支系，可是世代都有婚姻關係，禮法並不禁止。現在與此同理，結婚完全可以。」劉友想條疏上陳，被陳騫制止。所以沒被彈劾。劉頌問明法掾陳默、蔡畿：「同鄉里誰最委屈？」兩人都說：「劉友委屈。」劉頌改變臉色呵斥他們。蔡畿說：「劉友以私議冒犯你是很不對的，可是鄉里公論說他委屈。」後來劉友徵召為公府掾、尚書郎、黃沙御史。