蔡廓字子度，濟陽考城人。曾祖父蔡謨，是晉朝的司徒。祖父蔡系，是撫軍長史。父親蔡林，是司徒左西屬。
蔡廓博覽群書，言語行動都依禮而行。剛開始他當著作佐郎。當時桓玄輔佐晉朝，打算恢復肉刑。蔡廓上書說：「建立政治設立刑法，宣明政治，必須因時制宜，恩威並施。統一法令防止人們的邪惡慾望，教令輿論約束人們的怠慢，施恩惠給人民，降下懲罰以建立威權，和風細雨，人民溫和而恬淡。膽小怕事的人，聽說法條而警戒自己。雖然文雅樸實循環交錯，但這些法規是不改變的。古人設立肉刑，是從聖明的皇帝時代開始的。大概古時候民風淳樸而謹慎，法條明白，所以投機的心理便收回了，在此上處以犯人死刑，那麼亡命之徒也會改正缺點。所以當時慢慢天下太平，達到無為境界。而世紀末時代風俗虛偽殘酷，法令繁多，營利取巧的心思越來越多，畏懼的心理越來越少，即使終生不停地要他服艱苦的勞役，也不能遏制他們的奸詐的企圖，況且像在臉上刻字、割掉鼻子之類的刑罰，怎麼能讓他們改惡從善。徒然聽到在殘酷刑法中的呻吟聲，但對當時的政治並無幫助。至於砍去犯人的腦袋，確實是有不能原諒的罪行。而有些不是親手殺人的人，也被判處死刑，輕罪和重罪同樣處理，減刑、降刑的途徑被堵塞，陳群、鍾繇因此上書提議，元皇為此而發憐憫心。如今英明的宰相們輔佐皇朝，幾乎趕上伊尹和周公，雖然雍塞不通的天運剛開始打通，但是前代留下的問題還未解決。確實應該謹慎地施行刑罰，愛護百姓，廣泛的撫育。同情不幸的人，除去多餘的刑罰，把砍頭的刑罰移到砍肢體。保全犯人的性命，使民生戶口不斷地滋長，使將要斷截的骨肉，獲得人世間新恩澤。恩威同時顯現，感恩戴德和謹慎小心具備在人們的心頭，保全生靈，剷除暴政，正在於此。」
蔡廓遷任司徒主簿，尚書度支殿中郎，通直郎，高祖的太尉參軍，司徒屬，中書、黃門郎。因為正直剛毅，能幹練達，被高祖所欣賞。到高祖兼兗州刺史時，蔡廓當別駕從事史，被委任州中事務的處理大權。不久又被任為中軍諮議參軍，太尉從事中郎。還未拜任，便遇到母親去世。他非常孝順，三年沒梳頭，沒洗澡，幾乎承受不了喪事的打擊。守孝期滿，相國府再命他當從事中郎，兼記室。宋國台閣開始建立，他當侍中，他建議：「審理犯人不應該叫子孫證明祖父和父親的罪行，這樣虧損教化，傷害父子感情，沒有比這更大的了。從今以後只教親人與犯人相見，不需審查的訴說，便足以明確罪行，也不需親人去證明罪行。」朝中都認為這個建議很好，採納了。
世子左衛帥謝靈運輕易殺人，御史中丞王准之因為不彈劾被免官，高祖因為蔡廓很剛直，容不得冤枉，補任他當御史中丞。蔡廓對很多人都加以糾察或彈劾，朝廷百官非常震恐。當時中書令傅亮極得皇帝寵待，學問無比淵博，朝廷的典章制度，活動禮儀，都由傅亮決定，而傅亮每次都要向蔡廓咨詢然後施行。傅亮如果有自己的看法，蔡廓終究堅持自己的觀點。當時對揚州刺史廬陵王劉義真的朝中位次決定不了，傅亮給蔡廓寫信說：「揚州自然應該穿刺史的衣服。然而人們認為朝拜次序，應在朝廷各位官員之上，不應按官職大小坐定。請你再去研究一下。《詩序》說：『國王的女兒下嫁給諸侯，衣服、禮儀、位次，不根據她的丈夫來定。只比國王王后低一等。』按國王的女兒比王后低一等，那麼皇帝的兒子自然在王公的上面。陸機的《起居注》以及式乾殿集會規定：皇帝的兒子們位次在三公之上。現在抄在這裡。另外海西公即位時赦文，太宰武陵王位次第一，撫軍將軍會稽王第二，大司馬第三。大司馬官職最高，另外又當督中外諸軍事，而位次在二王的下面，難道不是比皇帝的兒子低一等嗎？這些文字現在都在。永和年中，蔡謨先生當司徒，簡文帝那時當撫軍將軍和開府儀同三司，二人共掌朝政。蔡先生當正官，位次不應該反而在儀同三司之下。而當時的位次，簡文帝(那時不是皇帝)在第一，蔡先生在第二。這些例子很多，不能全部寫出。揚州刺史反而位次在公卿的下面，恐怕這不合禮儀，是不是應該改正呢？」
蔡廓回答說：「揚州刺史的位次反而在公卿之下，我也常常懷疑。然而朝廷按職務排位次而不按本來的封爵，又沒有明文規定給皇帝的兒子待以特別禮儀。齊獻王當驃騎將軍，孫秀來投降，晉武帝想優待他，以孫秀為驃騎將軍，轉齊獻王為鎮軍將軍，在驃騎將軍之上，如果按足下的觀點，皇帝的兒子位次在三公之上，那麼齊獻王本來的位次是很高的，為什麼又要改任他為鎮軍，叫他在驃騎將軍之上，顯然那是按官位來確定位次的。另外齊王當司空，賈充為太尉都當錄尚書事，而齊王位次常在賈充的後面，潘正叔上奏《公羊傳》中的事，當時三個錄尚書事，梁王肜當衛將軍，位次在太尉隴西王司馬泰、司徒王玄沖之下。近來太元初年，大家恭賀新宮殿落成，司馬太傅當中軍將軍，而以齊王司馬柔之作為祝賀的第一名。立安帝為太子時奉上禮儀，徐邈當郎官，他認為按位次太傅在親王們的下面。又拜謁李太后，宗正尚書符令以高密王為第一位，當時王東亭當僕射。王和徐都是近代通達古今的人物。足下引用式乾殿集中公王事為證，我認為還不能作例子。其中說皇上在式乾殿中，召見侍中彭城王曹植、荀組、藩岳、嵇紹、杜斌，然後才說足下所寫的四位親王，位次在三公之上，結果實際反而在黃門郎之下，有什麼意義呢？況且四位親王之下應該是大將軍梁王肜、車騎將軍趙王倫，然後是司徒王戎。梁、趙二王也是皇帝的兒子，是尊貴的皇親，而且他們官職一樣，位次在豫章王常侍的下面，又說不通。大概記事的人描敘當時的事情經過，不必記錄當時朝拜的班次，式乾殿也不過是私宴，和上朝時不一樣。今日含章殿西堂拜會時，足下位次在僕射之下，侍中在尚書下。你信中又說我的曾祖和簡文共任錄尚書事，位次在簡文帝之下。我家傳說的則不是這樣，現在寫在這裡。國王的女兒本身並無爵位，所以能不隨同丈夫而以國王女兒作為位次。皇子出任便有官位，有官位便根據官職大小確定位次。只有引用的泰和赦文，勉強可以說得上。然而赦文的前後，也不完全一樣。太宰是比三公大的官，自然在大司馬之前。簡文帝雖然是撫軍將軍，然而當時已被授予丞相的特別官職，又兼任都督中外諸軍事，所以以本來的職位作為位次，不因為督中外諸軍事便可以在三公的上面。如今護軍將軍不過是方伯而已，而位次自然在持節都督之下，足下再想一想。」
蔡廓遷任司徒左長史，出外當豫章太守，再調為吏部尚書。蔡廓通過北地人傅隆向傅亮說：「選舉官吏的事務如果全部交給我，我可以接受吏部尚書職務，不然，便不會拜任的。」傅亮把蔡廓的話告訴了尚書徐羨之，徐羨之說：「黃門郎以下的職務，全部委託給蔡廓，我們一概不管，從這上面的官員，自然大家共同磋商。」蔡廓說：「我不能為徐干木在紙尾上署名。」於是不拜任。干木，是徐羨之的小名。選擇官員簽署委任書，錄尚書和吏部尚書必須連名簽署。所以蔡廓說：「在紙尾上署名。」徐羨之也認為蔡廓太方正剛直，不想叫他在這麼重要的位置上，轉他當祠部尚書。
太祖從荊州回來繼承帝位，尚書令傅亮率領朝中大臣迎接，蔡廓也參加了。到尋陽時，蔡廓病了，不能前行。傅亮將繼續趕路，到蔡廓那裡作別，蔡廓對他說：「營陽王在吳縣，應該好好地供奉，營陽王如果遇到意外，你們便有殺皇帝的名聲，想在世上立身，豈有可能嗎？」傅亮已和徐羨之商量好了害死營陽王，於是馬上派人阻止，使者到後，已沒有趕上。徐羨之大怒說：「與別人共同商議好了的事，為何才轉了個背，便把罪過推到別人身上？」到太祖即位，謝晦將到荊州赴任，和蔡廓道別，支走其他的人問蔡廓：「我可以免除禍亂嗎？」蔡廓說：「你接受先帝的臨終托付，承擔國家的大責任，廢除昏君，樹立明聖，按道理說是可以的，但是殺了人家的兩個哥哥，挾仗使主君震驚的權威，據有上游的重要形勢，從古今事勢看來，免除禍患恐怕很難啊。」
蔡廓年齡官位都很小，但被當時顯要人物所推重，逢年過節，顯要們都到蔡廓家裡拜訪。他對他的哥哥蔡軌非常恭敬，像對父親一樣。家事大大小小，都請示蔡軌之後才施行。公家的俸祿和朝廷的賞賜，他全部交給蔡軌，如果需要錢財，全部到當鋪中點當。隨從高祖在彭城時，他的妻子郗氏寫信來要夏天的衣服，蔡廓回信說：「知道了，你需要夏天時裝，給事中自然會給你，不需另寄。」當時蔡軌當給事中。元嘉二年(425)蔡廓逝世，享年四十七歲，高祖曾經說：「羊徽、蔡廓可以做和平時代的三公。」蔡廓的小兒子是蔡興宗。