劉義慶幼年時就被武帝所聞知，十三歲時世襲封爵為南郡公。永初元年(420)，襲封臨川王。元嘉時期(424～453)擔任丹陽尹。當時有一個老百姓黃初的妻子趙氏殺死了兒子的媳婦，又遇到了赦免，應該迴避孫子的仇視。劉義慶的意見認為「按照周朝的禮法，關係到父母的仇恨，要到海外避開，因為那是最大的冤仇，用道理無法消除。至於親骨肉相殘殺，必須在法律之外尋求解決。禮法上有對於過失的寬大，法律上無仇視祖輩的條文。況且趙氏發生暴行，根本原因是在於酗酒，推論人心對照實況，事情完全是荒唐的。怎能把荒唐的老祖母，等同於一般的大仇人，應該共戴一天、同處一地，不損害孝道。」元嘉六年(429)擔任尚書左僕射。八年，太白星侵犯了左執法星，劉義慶害怕會有災禍，請求到外地任職。文帝下詔書對他進行開導，認為：「天象幽暗不明，左執法星曾經有過變化，可是王光祿至今平安無事。正月初一日蝕，是天下最大的忌諱，晉孝武帝最先遇到這種異象。他不過是一個庸碌的君主，仍是最終沒有什麼妨害。」劉義慶堅持請求解除僕射之職，才最後批准了他。
元嘉九年(432)，出朝擔任平西將軍、荊州刺史，加任都督。荊州佔據著上游這一重要地位，物資兵甲占朝廷的一半，所以武帝的各位兒子普遍都在那裡任過職。劉義慶因為是宗室的美才，所以特別授予了這一職務。他性情謙虛，剛剛到任和最後離任而去，歡迎和歡送的財物一律不收。元嘉十二年，普遍地讓朝內外的臣僚們舉薦人材，劉義慶上表推薦前臨沮縣令新野人庾實、前征奉朝請武陵人襲祈、無官人士南陽人師覺授。劉義慶注意安撫人心，州轄以內官長的雙親和老人沒有跟隨住在官捨中的，一年之中允許三次由官吏給家裡贈送東西。在此以前，王弘治理江州也有這種規定。劉義慶在荊州呆了八年，成為西部的一個安定地區。他寫成了《徐州先賢傳》十卷上奏給朝廷。又模仿班固的《典引》寫成了《典敘》，用以敘述當朝功德的美好。
後來改換任職地點到江州，又調任南兗州刺史，都兼任都督。不久又在本職基礎上加封開府儀同三司。他性情簡約樸素，很少特殊嗜好和慾望，愛好文章義理，文章辭賦雖然不多，但是足可以作為宗室的表率。他在歷次任職期間都沒有浮華婬逸的過失；只是晚年供養僧徒耗費頗大。他少年時代就善於騎馬，長大以後，不再跨馬，招聚有才學的士人，不論遠近一定前來。太尉袁淑文在當時最為傑出，義慶在江州時請他為衛軍咨議。其他像吳郡的陸展、東海的何長瑜、鮑照等，都有美妙的辭章，他都引為輔佐官吏和國家大臣。他所著的《世說》十卷，撰寫的《集林》二百卷，一起在世上流傳。文帝每次給義慶寫信，常常都是用心斟酌。
劉義慶在廣陵生了病，而有白虹貫城，野獐進入府中，他心裡十分厭惡，便上書請求回京，文帝准許他解除州上的職務，以本官號還朝。元嘉二十一年(444)，在京城逝世，追贈為司空，謚號為康王。他的兒子哀王劉曄承襲爵位，被元兇劭殺死。劉曄的兒子劉綽又承襲爵位，升明三年(479)被殺，封地革除。