劉師知，沛國相人。其家世代為寒族，祖父劉奚之，為齊晉安王諮議參軍、淮南太守，劉奚之善於治政，齊武帝親手寫詔多次褒賞他。父親劉景彥，為梁尚書左丞、司農卿。
劉師知好學，有當世之才。他博覽典籍，工於寫文章，通曉儀禮，朝廷掌故，大多詳悉，在梁朝劉師知任王府參軍。紹泰初年，高祖輔佐朝政，任劉師知為中書舍人，掌管詔誥。那時戰亂之後，禮儀大多散失，高祖任丞相以及加九錫連同受禪，所有的禮節制度都由劉師知制定。高祖受天命即位，劉師知仍任舍人。師知天性隨便，與周圍的人多不合，雖職位不曾陞遷，然而委任甚重，他的諍言勸諫，皆大有裨益。
高祖崩，六日後著成服，朝臣共商議大行皇帝守靈人所穿衣服的吉凶之制，博士沈文阿建議，應穿吉服，劉師知建議說：「既然稱成服，本是為喪禮準備，靈位服飾，一概為白色的。今雖然沒有大行皇帝守靈官，據梁昭明太子薨，著成服的侍靈官，全都穿..斬，只是所穿鎧甲一樣，此即可效仿。愚認為六日成服，守靈人需穿....。」中書舍人蔡景歷也說：「雖然不完全準確，按葬埋山陵之禮有吉凶羽儀，而成服只有凶無吉，文武侍官，不允許隻身佩帶鳴玉珥貂，考慮到禮儀，理應著喪服。」中書舍人江德藻、謝岐等人都贊同劉師知的建議。文阿又建議說：「查晉、宋《山陵儀》：『靈車梓棺放置殿內，各侍中書省處理。』又《成服儀》稱：『靈車梓棺需要設衛士官和陳放香幾。』又查《靈輿梓宮進止儀》稱：『守靈位著吉服，在吉鹵簿中。』又說：『守梓棺著..服，在凶鹵簿中。』所以在殿內有著吉凶二服的俠御官。」當時因有兩種不同的意見，便啟報左丞徐陵決斷。徐陵說：「梓棺付葬山陵，靈座付葬宗廟，有這種分別，便可以驗證有吉凶之差別。按《山陵鹵簿》吉部伍中，公卿以下導路者，以及虎賁、鼓吹、執蓋、奉車，都著吉服，豈能容允俠御獨著喪服呢？這是很清楚的。如果說公卿小吏都穿..苴，這與梓棺隊例有何差別呢？如果說車服旌旗儀仗類人著吉服，主管官吏穿凶服，豈能容允著..衣而持華蓋，著..衣而乘坐玉輅呢？贊同博士的建議。」劉師知又建議說：「左丞導引梓棺付葬山陵，靈位付葬宗廟，必有吉凶二部，成服不允許有吉凶之別，博士還持前斷，最終還是說葬禮。若龍柩起駕，鑾輿兼備，吉凶之儀，歷來具備，只是以成服為準，愚覺得不夠妥。喪禮之制，由天子頒布。接王文憲《喪服明記》說：『官品第三，侍靈人二十。官品第四，下至士禮，侍靈人數，都為十人。一律著白布誇褶，戴白絹帽。內喪女侍人數與外喪同，而且都著齊..。有人問內外喪侍靈人數同，何以會在著..服上有差別？回答道，如若按君臣之禮，則地方官著斬服，京官著齊服。近年來多變故，禮制隨之有所刪省。諸侯以下，所屬官吏很少，至於侍奉，多出於義附，君臣之禮不健全，制喪服喪帽的費用實在匱乏，所以著便服，只是變帽而已。婦人侍者，皆為卑隸，主與妾之界線很鮮明，服飾等級因而完備。』本朝之禮，還是不一樣，以此類推，服斬很明確了。侍靈與俠御大同小異，既然戴了白帽，理應不服彤服。並且梁昭明《儀注》，現還保存，二文相印證，幾乎就成了標準。況且禮出自人情，能夠增減。普通人有喪，如果設靈位、靈帳及靈屏，就與常禮不同，用蘆席竹簾住草廬，就成凶禮。廳堂之內，親人朋友都來，穿著齊斬麻緦，輪流哭喪，著戴玄冠不讓弔喪，除非著白色喪服。怎麼能見役吏屬官，身著薄紗而來，左邊姬妾右邊美女，紅紫相雜其間呢？況且皇帝崩駕，普天之下同哀，三軍縞素，著服之制要統一。遂使千門萬戶早上開門，不是在紅門上塗白色，百官臨哭，不是變朱..為凶服，而金革玉帶、鳴玉還在，捫心自問，是不能令人滿意的，拿禮經考察，絕無前例。豈能拿成服之儀，來與山陵之禮相比？喪葬既然有始有終，陳書所以有吉凶之禮，所謂成服，本來是為喪禮而成，朝廷內外百官，一概更變吉容，如果俠御獨獨不改，怎能稱成服呢？若說不用守靈之俠御就罷了，若有則必當著..服。」謝岐建議說：「靈位付葬宗廟，梓棺付葬山陵，實如左丞議，只是山陵鹵簿，吉凶兼備，隨靈車者儀服不變，隨梓棺者都著苴..。延及士禮，都同此制，只是山陵之儀禮，與成服無關。今謂梓棺靈位，同在西室，論到成服，亦無鹵簿之載，只是上至王公，直至小吏，普天之下，必備....。考察梁昭明太子薨，差不多算是先例，怎麼能允許凡夫俗子，一概服喪服，而侍中武衛，尤其是皇上身邊侍官，反倒佩帶鳴玉紆青，與平常吉服無差別呢？左丞既以山陵之事加以推斷，我想也許與成服有差別。像近日所說的俠御，文武無別，只是侍靈之人，主書、宣傳、齊干、應來力，一概不變。」蔡景歷又說：「俠御之官，數量五百，近來準備喪服住進靈廬，仍居本省，導引皇上之靈柩登殿，豈能著喪服佩帶貂玉呢？如果另外再輔助其他官吏，用來充實顯貴，則近日就有不著成服者。山陵之禮自古就有吉凶二議，成服有凶無吉，還是同意前議，贊同劉舍人。」德藻又說：「我認為奠祭送葬之時，有始有終，達官貴人有追贈，必需顯現受皇帝恩寵的榮耀，有吉鹵簿，恐怕由此義衍生而來，私家倣傚，因而成俗，變吉服為凶服，按理不應再穿紈綺。劉舍人引王衛軍《喪儀》以及考察梁昭明舊例，此乃明證已很清楚，博士、左丞已各自表達了自己的看法，既然沒有結果，需要再行商討，咨問八座、詹事、太常、中丞及中庶諸通袁樞、張種、周弘正、弘讓、沈炯、孔奐。」當時八座以下，一同請示：「按照群臣的意見，再考慮舊儀，梁昭明太子《喪成服儀注》，明確的文字記載現還保存，足以為準。成服之日，侍官按理不允許還從吉禮。其葬禮有吉制，自是山陵之時，並不是成服之日。我認為劉舍人的意見，按實情來說最為公正。」徐陵又回答說：「我年老病重，不能多說，古人爭議太多，多積怨恨，傅玄見責於晉代，王商受誣於漢朝，這裡最好少說為佳，恭請地服從上邊的旨命。若萬一不死，還會陳述，希望與朝中眾賢再加以商榷。」文阿堅持己見，眾議不能決斷，便備錄二議上奏，同意劉師知的意見。
不久遷任鴻臚卿，舍人職務不變。天嘉元年(560)，因事免職。當初，世祖敕令劉師知撰《起居注》，他從永定二年(558)秋到天嘉元年(560)冬，共寫了十卷，又起用為中書舍人，再掌詔誥。天康元年(566)世祖病，劉師知與尚書僕射到仲舉等人入侍醫藥。世祖崩，預先受遺詔。高宗任尚書令時，劉師知輔佐朝政，光大元年(567)，劉師知和到仲舉等人派舍人殷不佞偽制詔命令高宗回東府，事情洩漏，於北獄賜死。