成淹，字季文，上谷居庸人。自稱晉侍中成粲的六世孫。祖成升，居家北海。父親成洪，名字犯顯祖廟諱，仕職劉義隆，為撫軍府中兵參軍。早年去世。成淹愛好文學，有氣度志向。
太和年間，文明太后逝世，蕭賾派其散騎常侍裴昭明、散騎侍郎謝竣等人前來弔唁，使者想穿著朝服弔唁。主客官員把他們抓了起來，說：「吊有常式，怎麼能穿著朱衣入山庭呢？」昭明等人說：「我們本奉朝命，不容改易服裝。」如此往復四次，昭明等人就是不換喪服。高祖命令尚書李沖，令他選擇一位學識淵博的人再與他論執，李沖啟奏派成淹。昭明說：「不知道魏朝不讓我們穿朝服行禮，義出何典？」成淹說：「吉凶不問，禮有成數，去冠不吊，童孺共聞。過去季孫將行，請求依照遭喪之禮，千年以下，人們還在讚美。卿從遙遠的江南前來弔唁，卻不能按照弔喪程式辦事，我正要問這義出何典，行入的得與失，何其異哉！」昭明說：「我們兩國交和既久，南北都應互相理解。齊高帝去世，魏派李彪通吊，當時一開始不穿喪服，齊朝也不以此相疑，今天你們怎麼能苦相逼迫。」成淹說：「李彪致吊之日，朝廷命他帶上弔喪的服裝，而齊不遵高宗追遠之心，剛過一個月便完喪事，李彪行吊之時，齊國君臣都已經鐘鼓鳴玉滿庭，貂裘麗飾光耀白日，內外百官，朱服煥然，李彪不受主人之命，又何容獨穿素服夾雜在衣冠楚楚的百僚中間？你責問雖高，我卻不敢以之為然。我皇帝生性仁孝，比於有虞，服喪以來，百官都聽宰臣調遣，卿豈能以此與齊相比呢。」昭明於是搖著膝說：「三皇不同禮，也知道他們得失在什麼地方。」成淹說：「如果像你方才說的，卿認為虞舜、高宗不對了？」昭明於是相顧而笑說：「不孝的行為，仲尼有現成的責備，我這樣的人也不敢亂說。我希望主人為我裁縫喪服，出使之人，只準備了換洗內衣，這既是戎服，不可以弔喪，希望你們借我黑衣帽，以申國命。今天被魏朝所逼，違背臨行指授，還歸南朝時候，我肯定會得罪本朝。」成淹說：「那裡也有君子，卿將命折中，還南之日，一定會有高賞；若無君子，只要你有光耀國家的讚譽，即使被無理見罪，那又有什麼關係。公正的史臣，自然會直筆而書。」後來，高祖派李沖問成淹，瞭解昭明都說了些什麼，成淹如實匯報了情況。高祖下詔李沖說：「我所用得人。」仍敕送喪服喪帽給昭明等人，賜給成淹果品食物。第二天早上，引昭明等人入喪堂，皆令文武官員盡哀。後來授成淹正侍郎。高祖以淹清貧，賜給絹百匹。
太和十六年(492)，蕭賾派其散騎常侍庾蓽、散騎侍郎何憲、主書邢宗慶前來朝貢，正逢朝廷在明堂有活動，因此登上靈台觀看。高祖讓成淹引庾蓽等在館舍南面矚望行禮，事畢，還外館，高祖賜予酒食。宗慶對成淹說：「南北兩朝連和既久，而一段時間以來你們棄信絕好，為利而動，哪是作為大國善鄰所應該做的？」成淹說：「大凡作為王者，不必拘於小節。中原有豆，善於採摘的收穫便多，哪能眷眷守尾生之信。況且齊先帝歷事宋朝，累世荷恩，就應當奪人宋朝之命？」宗慶、庾蓽以及其他使者都相顧失色。何憲知道成淹過去由南入魏，便以手掩住眼睛說：「卿為什麼不作於禁，而作了魯肅？」成淹說：「我捨棄危殆之朝效力和順之國，志行欲追跡陳、韓，和於禁有什麼好比的！」何憲再也不說話了。
王肅投歸朝廷，高祖以成淹曾經為官江表，下詔要他觀察是非。於是成淹到王肅處與他交談，還朝奏說情況屬實。當時各方議論紛紛，還說此事不太確切。高祖說：「明天引他進來，我與他交談，自然就知道虛實了。」等到高祖車駕出巡，王肅多派護從，帝讓成淹當嚮導，一路遇到古跡，都讓他知道。行至朝歌，王肅問這是何城。成淹說是紂都城朝歌。王肅說：「怪不得有殷之頑民了。」成淹說：「過去武王滅紂，帝都都居河、洛，中間因劉、石亂華，帝都便隨司馬氏東渡。」王肅知道成淹本隸青州，於是笑著對成淹說：「青州間為什麼無其餘種？」成淹以青州本屬徐州，說：「青州間本非其地，徐州間有人今日重來。這你不是不知道的。」王肅於是伏在馬上掩口而笑，回頭對侍御史張思寧說：「剛才聊因戲言，反被別人咬了一口。」思寧馳馬奏聞皇上，高祖大為高興，對彭城王元勰說：「成淹此段表現足可制勝。」車駕到洛陽，王肅參與帝宴。高祖與王肅開玩笑說：「不久前行至朝歌，聽說成淹與你很有一番往復，卿試著重新演示一回，如何？」王肅說：「臣前番在朝歌被成淹所圍，沒想到這事被陛下知道了。臣前番失言，一次就夠受的了，哪裡還能再說？」於是二人都大笑不止。高祖又對王肅說：「成淹能制住卿，其才也不簡單。」王肅說：「成淹才辭實在難得，聖朝應該升他官職。」高祖說：「如果因這提拔成淹，朕擔心更加有辱於卿了。」王肅說：「為臣委屈自己達進他人，這正可以顯出為臣品德之美。」高祖說：「卿既被人所屈，又想求屈己之名，這於卿也太過了。」王肅說：「成淹既進官，臣得能屈己伸人，這就顯示出陛下惠而不費的旨意來。」於是二人酣笑不止。於是賜予成淹龍廄好馬一匹，加上鞍勒車免具，朝服一套，轉任他為謁者僕射。
當時朝廷遷都，高祖以成淹搬家缺少人手，賜給勞力，送到洛陽，並賜予假日讓他與家人一起行進。行至靈丘，正逢蕭鸞派的使者來了，高祖派驛馬徵召成淹。帝車駕渡淮，成淹在路旁請見，高祖停駕引見他。成淹說：「蕭鸞悖逆殘虐，幽明之人都拋棄了他，陛下俯應人神，按劍江邊，但敵人不可小看，蜂蠆依然有毒，而況國家呢？臣殷切希望聖明君主保萬全之策。」帝詔說：「這是前車之轍，能不謹慎嗎！」成淹說：「臣聽說向洛陽出發以來，諸多諫陳之人，都被陛下解官奪職，這恐怕不是聖明君主接納臣言的好方法。」高祖說：「這是我的命而已，卿不得做干戈斧鉞伐罪的事。」成淹說：「過去文王詢於芻蕘，晉文接納趕車人的話，為臣雖然卑賤，但也敢與匹夫相比。」高祖優禮而容忍下來，下詔書賜給他絹一百匹。
高祖幸臨徐州，敕成淹與呂龍駒等人主辦舟船之事，準備經泗水入黃河，逆流而上，還歸洛陽。軍隊駐紮在..郂，成淹看到黃河水流深急，擔心有危險，於是上疏陳諫。高祖敕書成淹說：「朕因恆、代沒有運漕之路，所以京邑百姓貧困。現在移都伊、洛，為的是道航四方，而黃河急流深浚，人們都難渡過。我有今天此行，必須乘流而上，為的是開百姓之心。朕知卿一片忠心，而今天朕不準備接納你的意見。」詔敕驊騮馬一匹，衣帽一套。除授羽林監，領主客令，加威遠將軍。
當時宮殿初構，建造務求廣大，兵民運材，日有萬計，而伊、洛水急，兵民苦於涉渡，成淹於是請求，敕在洛都二水上造浮航。高祖很讚賞，接納了他的意見，準備在眾官面前誇獎成淹，清晨上朝，百官在位，賜給他帛百匹，讓他知掌左右二都水事。世宗初年，司徒、彭城王元勰說：「先帝本有成旨，成淹有歸國之誠，加上歷官著稱，應加特別提拔。高祖雖然仙逝，詔言還歷歷在耳。」於是傳知選辟部門，加授成淹為右軍、領左右都水、仍為主客令。又授驍騎將軍，加授輔國將軍，都水，主客照舊。
成淹小心畏法，掌管國家迎來送往十年，四方貢聘之人，都送給他一些禮物，而他毫釐不受，全部退還，以至於衣食不足。於是請求外任。景明三年(502)，出任平陽太守，將軍職仍舊。還朝後，病逝。贈本將軍、光州刺史，謚稱定。
子成霄，字景鸞。也有學問，喜為文章吟詠。但是辭采不行，大多粗陋。與河東姜質等人朋游交好，詩賦時有所作。內行中人，共相嗤笑；而街巷鄉里，淺識之人，則頌傳成風，於是其作大行於世。官歷治書侍御史而去世。