劉善明，是劉懷珍的族弟。父親劉懷人，在宋朝做官為齊、北海二郡太守。元嘉末年，青州發生饑荒，人與人彼此相食。劉善明家裡有積存的谷子，自己只吃稠粥，開倉救災，鄉民有很多獲得了活命和救助，百姓們都把他家的田地稱為續命田。
劉善明少年時期安靜讀書，刺史杜驥聽說了他的名字，等候要見他，而他卻推辭不見。四十歲的時候，刺史劉道隆聘他為中從事。劉懷人對劉善明說：「我已經知道了你的立身，還想見到你的立官。」劉善明應聘了，又舉他為秀才。宋孝武帝見到他的策論直率有力，感到他十分奇異。
泰始初年，徐州刺史薛安都反叛，青州刺史沈文秀響應他。當時州治在東陽城，劉善明家在城郭以內，不能自己逃出。他的伯父劉彌之虛假地對沈文秀說自己請求效力，沈文秀讓他率領軍主張靈慶等五千人增援安都。劉彌之出門以後，秘密地對部下說：「這才逃出禍坑了。」走到下邳，便背棄了沈文秀，劉善明的堂伯劉懷恭為北海太守，佔據郡城與他相應。劉善明秘密相約，收集了門宗部下，得到三千人。夜間斬了關門的守將投奔北海。他的族兄劉乘人又在渤海聚集兵眾呼應朝廷。而劉彌之等人不久被薛安都所殺，明帝追贈他為青州刺史。任命劉乘人為冀州刺史，劉善明為北海太守。又任命他為尚書金部郎。劉乘人生病去世，便以劉善明為冀州刺史。沈文秀投降以後，任命劉善明為海陵太守，郡的邊境處在海邊，沒有樹木，劉善明讓人種植榆、茶等各種果樹，於是獲得了利益。還京後為直閣將軍。
泰始五年，魏朝攻克了青州，劉善明的母親在那裡，把她轉移到了代郡。劉善明穿布衣吃蔬菜，悲哀得像守喪一樣，明帝每次見到，都為他而歎息。後來轉為巴西、梓桐二郡太守。劉善明因為母親在魏朝，不願意西行，流著眼淚堅持請求，得到了准許。朝廷官員大多同情劉善明的心事，元徽初年派人出使北方，朝中議論讓劉善明舉薦人選。劉善明推薦州鄉北平人田惠紹出使魏朝，把他母親贖了回來。
當時宋朝的後廢帝剛剛登基，群臣執政，劉善明獨獨侍奉齊高帝，委身效忠。出京擔任西海太守，行青、冀二州刺史。劉善明的堂弟劉僧副與劉善明都在家鄉很知名。泰始初年，魏朝進攻淮北，劉僧副率領部下二千人東面依憑海島。齊高帝在淮陰，認為他的作為很豪壯，召他相見，任用他為安成王撫軍參軍。後廢帝放肆暴虐，高帝憂慮恐懼，常常讓劉僧副化裝出行，偵察風聲。讓他秘密告訴劉善明和東海太守垣崇祖，使他們擾動魏軍。劉善明勸他安靜地等待時機，高帝採納了。
廢帝被殺，劉善明做高帝的驃騎咨議、南東海太守，兼管南徐州事務。沈攸之反叛，高帝感到非常擔憂。劉善明獻計說：「沈攸之控制著八個州，縱情搜刮，包藏賊志，已有十年。他性情陰險急躁，才能不可擔當重任，叛逆起兵已經幾十天，徘徊不進，難道該是有所等待麼？一則是他不懂兵機，二則是人心怨恨，三則是他有掣肘的憂慮，四則是天奪了他的膽魄。本來懷疑他會迅速推進，攻其不備；現在朝廷六師一齊奮起，諸侯共同舉兵，他已經成為籠中之鳥了。」事情平定後，高帝召劉善明返回京城，對他說：「卿分析沈攸之，即使張良、陳平也只能是這樣罷了。」於是調他擔任太尉右司馬。
齊台建立，他擔任右將軍，因為疾病推辭沒有上任。司空褚彥回對劉善明說：「高尚的事業，本是您歷來的心意，現在朝廷正相委任，哪能就學隱士赤松子與王子喬呢！」劉善明回答說：「我本來就沒有做官的興趣，既然遇到了知己，所以奮力奔走。天地已經廓清，朝廷人才濟濟，我的懷抱已經實現，不敢再貪求富貴。」
高帝登基，因為劉善明有功而且忠誠，打算給他俸祿，就召來劉善明對他說：「淮南接近京城，是國家的形勝之地，非親近的賢臣不能管理這裡，卿給我高臥治理這裡吧！」於是他便代替明帝擔任了淮南、宣城二郡的太守。又派遣使者前往授爵，封他為新淦伯。劉善明到了郡上，上表言事共十一條：其一認為「天地開創，應該慰問遠方，廣泛地傳揚皇上的恩澤」。其二認為「京都所屬的遠近地方，應該派發醫生和藥物，慰問疾苦，年齡九十以上以及病重不能治療的，應該酌情賞賜」。其三認為「宋代的赦令，真正得到寬大的很少。我認為現在下赦書，應該讓事實與它相合」。其四認為「劉昶還在，或許會到邊境上來送死，各城應該嚴密守備」。其五認為「應該廢除宋朝大明以來的苛細政法條令，尊崇簡易」。其六認為「凡是各種土木建築開支，可以暫且停止」。其七認為「帝子王女，應該崇尚簡約」。其八認為「應該詔令百官以及府州郡縣，各自貢獻正直言論，以弘揚唐堯、虞舜的美德」。其九認為「忠貞孝悌，應該以特殊的辦法提拔；清苦節儉，應該授給他政務」。其十認為「革命成功初始，應該挑選人才出使北國」。其十一認為「交州險要而遙遠，在荒原以外，宋末政治苛刻，以至怨恨叛變。現在應該以恩德進行懷柔，不應勞累將士遠征，攪動邊民」。又撰寫了《賢聖雜語》上奏，托辭進行諷諫，皇上用優厚的詔書進行了答覆。
劉善明又提議建築宣陽門，他上表說：「應該明確地方長官的賞罰，建立學校，制定齊朝的禮儀，開設賓館以接待鄰國。」皇上答覆說：「用賞罰以警戒地方長官，修飾賓館以等待遠國，都是古代的善政，是我應該努力做到的。重新創造新的禮節，可能不容易編製。國學的美好，已經下令告訴了公卿。宣陽門現在下令停建。我會有很多缺失，很想再聽到您的建議。」
劉善明身高七尺九寸，品質樸素不喜歡聲色，他所住的茅齋，只是用些斧子砍的木頭。床和桌椅，都不加刨削。從少年時就立下了節行，他常說：「在家應當孝順，為官應當清廉，可以作為子孫的楷模就行了。」等他多次做了州郡長官，頗多貪污納賄，崔祖思感到奇怪，便問他怎麼回事，他回答說：「管子說過，鮑叔瞭解我。」於是流著眼淚說：「方寸已經亂了，哪有閒暇廉潔！」所得的金錢都用來贖回他的母親。等他母親回來，清廉的節操才嚴峻起來。所經歷的職務，廉潔簡明而不煩瑣，他的俸祿都散發給了親友。
他和崔祖思非常要好，崔祖思出京為青、冀二州官長，劉善明寫信跟他敘舊，於是以忠誠相勉勵。等聽說崔祖思死去，傷心痛哭，便得了病。建元二年去世，遺命要實行薄葬。追贈他為左將軍、豫州刺史，謚號為烈伯。他的兒子劉滌承襲了爵位。
劉善明家中沒有遺留的積蓄，只有書八千卷。高帝聽說他家清貧，賜給劉滌家葛塘的庫存谷子五百斛，說：「葛塘的庫存也在我的官署之下，要讓後世知道他的見識不凡。」