劉峻字孝標，是平原郡平原縣人。父親名王廷，是宋始興王內史。
劉峻生下來剛一個月，母親就把他帶回鄉下。宋泰始初年，青州落入北魏手中。劉峻八歲時，被人搶到中山去了，中山的有錢人劉實很可憐劉峻，用五匹絲帛把他贖了出來，並教他讀書。北魏人聽說他在江南有親戚，又把他轉移到桑乾。劉峻好學習，家裡很窮，居在別人的廊簷下，自己給自己規定讀書的內容和份量，經常點燃用麻干扎的火把，從晚上直到天亮，有時太困昏睡，火把就燒他的頭髮，等到發現後醒來又繼續讀書，一整夜不睡覺，其精進力學如此。齊永明年間，乘機從桑乾逃回家，自己認為看書不廣博，又尋找沒有看過的書，聽說京師有的，就前去哀求借來看，清河的崔慰祖稱他是「書婬」。當時竟陵王蕭子良廣招學士，劉峻托人請求當蕭子良的國職，吏部尚書徐孝嗣壓制他不讓他去，任命他做南海王的侍郎，他沒有去就任。到明帝時，蕭遙欣任豫州郡守，劉峻擔任府刑獄，蕭遙欣待他很好。蕭遙欣不久死去，劉峻很久沒有調動。天監初年，應召到西省，和學士賀蹤一起點校官府的典籍。劉峻的哥哥劉孝慶，當時是青州刺史，劉峻請假去看他，因私下運載禁止的物品，被有關部門告了，撤去了官職。安成王蕭秀欣賞劉峻有學問，任荊州郡守時，引薦劉峻任戶曹參軍，給他提供書籍，讓他分類抄摘故事，書名叫《類苑》，沒有等到完成此書，又因病離去。於是到東陽紫巖山遊玩，建了間房屋居住在那裡，寫了一篇《山棲志》，文章寫得很漂亮。
梁武帝招攬文人學士，有高超才華的人，大多被收進去，並依次提拔。劉峻憑個性辦事，不願和大夥一起隨波逐流，梁武帝很討厭他，所以不任用他。劉峻便寫了篇《辨命論》寄托他的心懷說：
「皇上曾經和幾位有才有名的人談及管輅，感歎他有超眾的才華卻做不了大官。當時有人在皇宮的台階之下，聽到了這一議論，回來後告訴我。我認為文人的窮困與通達，只不過是命運的安排而已。所以試著論述天的意志，鋪陳其大略於下。
「我看管輅，有天生的才華，長相英俊，品質像皂、璋一樣高美，實在是人間的英傑，絕非是算卦、巫祝之流。而官只做到少府丞，死時只有四十八歲。上天的報答與施捨，怎麼會這樣少？不過才華出眾的人沒有做高貴的官，像饕餮一樣貪吃的人卻居在重要位置上，只有管輅是這樣嗎？所以本性與命運的關係，窮困與通達的道理，彼此違反各不相同，難以瞭解其中奧妙。王充概括它的源頭，司馬遷闡發它的疑惑。而那些隱士和貧寒的儒生，則認為命有一定的先天性；新貴和富貴者認為命運聽人使喚。爭辯吵鬧，各種見解都出來了。李康在《命運論》中討論了命運的本源，而沒有疏通它的流變；郭像在《致命由己論》中論述了命運的流變，但沒有詳述它的本源。我姑且來論說它：能成為萬物來源的就稱為『道』，不知道怎樣發生的稱自然。自然就是能看得見是什麼樣子，但不知道為什麼會是這樣；相同的都能得到，但不知為什麼會得到。引發萬物的運動，使萬物各有一定的形式，又不是它的作用。萬物的混合生成，也不是它的力量。活著沒有安定的心，死後怎會有殺害的志向呢。魚類生活在水中不是因為它發怒，鳥類飛翔在天空也不是由於它高興。命運好寬好大啊，萬物隨之變化；多精確純真啊，萬物都是變化而有規律的。變化而不固定，就稱為命運。命運就是來自上天的命令。人未出生時就已注定，並終生不變。鬼和神不能預測，聖人哲士不能謀劃。有共工氏用頭觸斷不周山的力量也難以和命運抗拒，能使太陽倒著轉的誠心也不能感動它。短不能有一寸光陰的延長，長不能有更漏一刻的縮短。道德修養達到極點的人也不能超越它，特別聰明的人也免不了它的限制。所以帝堯的時候，洪水漫過了山，商湯的時候，天大旱，金石都要融化。晉文公進退兩難，宣尼斷水絕糧。顏回短命，像蘭花被風吹敗，冉耕有德行而染上了惡疾。伯夷、叔齊隱居首陽山，不吃周朝的糧米，靠野菜維持生命，一個婦女說：『野菜也是周朝的呀！』於是伯夷、叔齊絕食餓死。聖賢尚且如此，更何況平庸的人呢！以至於伍子胥屍體浮在江中；屈原在湘水自殺；賈誼被排擠，降為長河王太傅；馮唐到老還是個郎官；桓譚逐步升進，飛上天空，美麗的翎毛被毀掉了；馮衍好像鳳凰一樣，美麗的翅翮也被摧毀了。這難道是才華不好而行動有錯嗎？
「近代有劉王獻和他的弟弟劉王進，都是當時有名的優秀學者。劉王獻是關西的孔子，通讀六經，循序漸進，善於有步驟地進行教導。劉王進則志氣剛烈像秋霜，心地貞潔像崑崙山的玉，高高聳立世間，不沾染塵世的俗念。都是在卑陋的門戶裡從事於道德修養，天地間留下了聲名。可是官比侍郎還低微，官位還不到持戟宿衛殿門的郎中，先後早死，宗祖無人祭祀。借這兩位賢才來論說古人，那麼過去一些具有玉的品質、金的相貌、英俊秀美的人，在當時都受到排斥，蘊藏著超人的才華而不被重用，像草木一樣凋謝，像麋鹿一樣死亡。肉拋在地上，屍骨埋入山谷大川，被埋沒而沒有聲息的，又怎麼說得完呢！這就是說宰相、阿衡與衙門裡差役的差別，容成子和彭祖這樣的長壽者與短命的人的差別，猗頓這樣的富人與黔婁這樣貧窮的隱士的差別，陽文這樣的美人與敦洽這樣的醜人的差別，都是自然造成的，而不是憑借個人的才智形成的。所以說『生與死是命定了的，富貴由天決定』，就是這個道理。但是命行遊不定，變化也一個模式，或者讓人先哭後笑，或者讓人開始吉利，最終凶險，或者不召喚它自己找了來，或者因人不同來接濟。錯綜複雜，循環往復，福隱藏著禍，禍也能變成福，不能用一種理論來證明，也不能用一條途徑來驗證。而命的影響周密細微，疏而不漏，沒有形狀可以看見，沒有聲音可以聽到，一定要表現在實物上才能顯示靈驗，也可以通過人來顯示形象，比如帝王的冕旒，任百官的職位。有人說看商湯、周武王的作為，認為平定叛亂是由於神的功勞；聽說孔子、墨子的超出常人，稱為英明聰慧造成不同凡響；看到彭越和韓信這樣貧賤的人做了高官，又稱為像鷙一樣勇猛換得了官爵；看見張禹和桓榮都因講經而封侯，又說讀懂書經也能夠做大官。難道知道命運發展的趨勢嗎？所以說話否定命運有六大弊端，我請求陳述一下大概的意思。
「美麗的容貌，柔滑的身體，口大而歪，鼻樑多皺紋，這是容貌上的差別。有的事物白天生機旺盛，第二天清晨便衰亡了，龜、鵠卻能活到千年，這是壽命上的差別。聽別人說話就知道他的用意，頭腦糊塗分不清稻和麥，這是智慧上的差別。容貌、壽命、智慧這三樣都不決定於人力而獨以為榮辱決定於人，是只知二五而不知一十了。這是否定命運的第一個弊端。額上有龍紋、眼中有日影是做帝王的相貌，眼睛平正又長，腳底有龜紋，是做王公宰相的相貌。三國時蜀漢的張裕懂相術，常照鏡子看自己的面貌，自以為要受刑而死；春秋時楚恭王要在五子中選一人做太子，把玉璧埋在地上，誰壓在璧上就當選為太子。少昊出生時，有顆星像彩虹一樣流逝，黃帝生時，有大電繞樞照耀郊野，這是顯示大德的符瑞；劉邦斬蛇後，有一老婦人在晚上哭，說赤帝子殺死白帝子，而劉邦所居的地方，上面常有雲彩，這是表明要做君王的祥瑞。都是開始只是一些徵兆，到後期這些符瑞就像流汗一樣逐漸散開。如果說驅逐貔虎、拔劍斬蛇，靠人力取得皇帝的位子，就與玄冥的情形不符，顯示不了神明的作用。這是否定命運的第二個弊端。伊尹的家鄉變成大河；歷陽縣被水淹沒變成湖泊。項羽在睢水上大破漢軍，殺死很多漢兵，睢水因而不流；秦將白起坑殺趙卒四十萬，流血成河，沸聲如雷。崑崙山著火，礫石和琬圭、琰圭都被燒掉；寒霜夜間降臨，蒿艾和芝蘭一起都凋零，雖有冉游、子夏的才華，伊尹、顏回不同於庶人，怎麼能抗拒它呢？這是否定命運的第三個弊端。有的說：雖然珍珠像明月一樣明亮，難免有瑕疵；像夏後的璜玉，也會有不平滑的地方。所以崔鈒在縣令的職位上死去，司馬相如死時是孝文園令。才華不是不傑出，君主不是不聖明。然而打破了結綠的光輝，殘碎了懸黎的夜光，難道是說尺有所短，寸有所長嗎？如果是這樣，主父偃和公孫弘，論對策不能陞官，憑遊說不能入仕，在平原上養豬，被地方官所擯棄。假如他們像奔馬過隙一樣快，像霜花、露水一樣短就死了，造成羞憤恥辱，難道還能和崔鈒、司馬相如是同類嗎？等到公孫弘做了丞相，開闢東閣招收儒士，主父偃吃飯時排列五個鼎的食物，像電一樣耀眼，像風一樣流行，聲名傳遍海外。到底是先愚笨而後智慧，先錯了而後來對了呢，還是榮耀、羞辱有一定的氣數，命運有極限呢？使得美好與醜惡顛倒，這是否定天命的第四個弊端。猛虎長聲吼叫樹風也停下來，蛟龍抬起頭，雲便聚集起來。所以舜為王時八元八凱得到提升，商紂上台時，飛廉受到重用。然而天下善良的人少，兇惡的人多，昏暗的帝王多，賢明的君主少，而香草和臭草不能共處一個花盆中，梟鳥和鸞鳳不會比翼齊飛。因此渾沌、..杌這樣不才兇惡的人相繼在高位上耀武揚威；像仲容、庭堅那樣有才的賢良就只好在岩石下耕田種地。無理地說興起和廢除都是由人決定，與天無關，這是否定天命的第五個弊端。那些戎狄未開化的民族，長著人臉，藏著獸心，設宴招待，卻在酒菜裡放毒藥。把誅殺當作道德，把婬亂當作仁義。雖有大風這樣的鷙鳥站在山丘上，鑿齒這樣的惡獸在曠野裡奔跑，但和狼的嚎叫相比，怎麼能相提並論呢。自從晉朝衰弱，天地廢壞，北方左衽的野蠻民族，乘機像閃電一樣南下，於是攻佔洛陽，踏平五都，佔領了父兄的故鄉，在中原地區建樹名號，與三皇的子孫爭奪百姓，同五帝的後代搶佔居所。亡國滅種的紛亂充滿神州大地。噯！埃、禍、善、婬，只是一句空話罷了。難道不是太平與紛亂相互更替，長與短互相取代嗎？一切變化都是自然的，假若認為人力可以左右，那就錯了。這是否認天命的第六大弊端。
「然而所說的命，不過是生與死、貴與賤、貧與富、治與亂、禍與福，這十個因素，都是上天給予的。愚蠢、聰慧、善良、醜惡，這四個因素，是人的行為表現出來的。舜和禹不是神，他們的兒子丹朱和商均的心也不一樣，才幹與平常人相同，都是學習的結果。所以白色的絲不會總是不變，而會變成黑色或黃色，進入鮑魚行中就會變臭，走到芳蘭室中就能變香。所以季路向孔子學習，磨礪出風霜一樣的氣節。楚穆王向潘崇求計，幹出了殺父篡位的禍亂。商臣雖惡，卻能讓他的後人繼承大業；仲由雖善，不能免於戰死。這就是邪惡與正直是人決定的，而吉利與凶險則是命決定的。有人認為鬼神能克服驕傲自滿，上天能輔佐德行。所以宋景公說一句話，熒惑星後退三捨，商湯剪下白頭髮求雨祭天，天便下大雨。如果說善與惡沒有一定的徵兆，那就和這裡所講的不符合。而且於公治獄不冤枉好人，自認為陰德很好，讓人加高院門，等待子孫受封。嚴延年的母親見他殺戮囚徒，便說：『你太殘忍了，不久會遭刑戮，我回老家替你掃除墳地吧！』過了一年多，嚴延年果然被處死刑。這是君子不停地自己努力向上。假如仁慈沒有好報，誰還願意行善事、立名節呢？這是不近情理的說法。聖人的話，既明顯又隱晦，既微妙又委婉，幽深遙遠難得聽到，意義深遠，廣如河漢無際無涯。有時創立教化以促進平庸懶惰的人，有時論述命運尋求性、靈的盡頭。『積善之家，必有餘慶』，這是創立教化；鳳鳥不來，這是論說命運。現在用它的幾句話去辯論它的基本意義與趨向，跟向晚上就死去的人論說春季、秋季的變化有什麼兩樣呢？楚昭王說過有德行的話，紅色的雲彩也沒有收卷；周宣王求雨，王圭璧已經用完了，雨還沒下來。於公積下陰德，不如勳華的陰德高；嚴延年殘忍粗獷，不會比盜跖死在東陵更殘酷。行善都一樣，作惡也差不多，福與禍顯出不同的流向，興趣與廢棄呈現不同的軌跡。廣闊無邊的上天，怎麼會這樣呢？《詩經》說：『世道昏暗如長夜，百姓被迫去偷去搶。』所以善良的人做好事，哪裡有停止呢？
「吃大米、高粱和家畜的肉，穿狐狸、貉的皮衣或潔白的絹衣，看美妙的舞蹈，聽雲和山的音樂，這些都是活著的人所必需的，並不是有一定的目的才做的。修研人道和德性，學習仁與義，敦化孝與悌，樹立忠與貞，受到禮樂的洗禮，遵守先王制定的規則，這是君子必須做到的，不是為了達到什麼目的才做的。不過君子行為端正，體察人道，敬天認命，知道那是沒有辦法的事，懂得不是人的智慧和力量所能決定的。走了就不留，來了就不拒，活著時不過分喜悅，死了也不憂戚。高屋大廈，不能讓他的心情喜悅；土造的房子、蓬做的門戶也不能讓他思慮憂鬱。在富貴面前不屈氣節，不被自身的慾望弄得不安寧。怎會有司馬遷的《悲不遇賦》、董仲舒的《士不遇賦》呢？」
《辨命論》寫完後，中山劉沼寫信來詰難他，這樣反覆多次，劉峻每次都回信申述，分析回答劉沼提的問題。不巧劉沼死了，劉峻沒有收到回信，劉峻便寫一篇序文說：「劉沼既然提出詰難，正是我有些悲觀失望的時候，竟然沒有表述出來。不久劉沼永遠地離去了，沒有說完的言論只有被埋沒而不能流傳下來。也有一些從他家裡知道而告訴我的，讓人傷心的是音容笑貌還未消失而人卻已亡故了。我只有懸劍於他的墳上，滿懷遺憾說聲奈何奈何。」
劉峻還寫過一篇《自序》。大意是這樣的：「我自己與馮敬通相比，有相同之處三點，不同之處四點。為什麼呢？馮敬通有超人的才華，金石般堅強的志向，我雖不如他，然而為人慷慨，光明正大，這是相同之一。馮敬通正遇上盛世的明君，而最終不受重用，我也遇上英明的君王，也被擯棄不用，這是相同之二。馮敬通有一個很凶的妻子，以至於親自打水舂米；我也有位潑辣的老婆，也是家運不好，這是相同之三。馮敬通正值改朝換代的時候，手裡拿著發兵的符令，躍馬殺敵；我自幼到大，常常是沒有歡樂，只有憂愁，這是不同之一。馮敬通的兒子馮仲文，做了官，成了名。我的災禍與鄧伯道一樣，沒有後繼人，這是不同之二。馮敬通臂力很大，老了還很健壯，我病魔纏身，說不定哪天就突然死去，這是不同之三。馮敬通雖然當時沒有受重用，但很多名人賢士都敬慕他，這種美名和聲望時間越久越大，我一生平淡，世人不知道我，人一死就像草木枯謝一樣無人記起，這是不同之四。所以自己寫一下自己，留給好事的人去說。」
劉峻居在東陽時，吳郡、會稽不少人都跟他學習。普通二年(521)死去，終年六十歲。他的學生追諡他為玄靖先生。