蔡廓字子度，濟陽考城人，是晉朝的司徒蔡謨的曾孫。祖父蔡系，是撫軍長史。父親蔡謆，是司徒左西屬。
蔡廓博覽群書，言行都依照禮節，最初離家任職著作佐郎。後來做宋武帝的太尉參軍、中書黃門郎，以鯁直簡素為武帝所賞識。又調任太尉從事中郎，還沒上任，遇到了母親的喪事。他性情極為孝順，三年不梳頭洗髮，幾乎難以承當喪事帶來的悲哀。
宋台建立，他擔任侍中，建議「審訊囚犯不應該讓子孫提供證詞，明白地說出父親祖父的罪過。損壞教化，傷害情感，沒有比這更厲害的。從今以後，只讓家屬與囚犯相見，不要讓他們審訊時進行指控，便足以說明已經伏罪，不需要責令家人提供證詞。」朝廷討論並聽從了他的意見。
世子左衛率謝靈運殺了人，御史中丞王准之因為對他不加糾彈而被免官。武帝因為蔡廓剛直，把他補為御史中丞。他糾彈了許多人，百官震恐整肅。當時中書令傅亮職位隆重，學問冠於當時，朝廷的儀禮典章，都是由傅亮決定的。傅亮常常是先向蔡廓咨詢然後實行，傅亮的意見如果有不同，蔡廓終於不肯屈從。調任司徒左長史，出京擔任豫章太守。
他被徵調為吏部尚書。蔡廓通過北地的傅隆問傅亮：「選用人才的事如果都能兌現，沒有可說的；如果不是這樣，我不能就任這一職務。」傅亮把這話告訴給錄尚書徐羨之，徐羨之說：「黃門郎以下都交給蔡廓委任，我們不再考慮，由此以上，當然應該共同研究。」蔡廓說：「我不能為徐干木在紙尾上署名。」於是沒有上任。干木，是徐羨之的小字。選辟用的黃紙，錄尚書與吏部尚書聯名簽署，所以蔡廓說是在紙尾上署名。徐羨之也因為蔡廓剛直，不想讓他處在權要地位，調為祠部尚書。
宋文帝入京繼承了皇位，尚書令傅亮率領百官迎接，蔡廓也一同前往。到了尋陽，遇上了疾病不能前進，傅亮將要繼續趕路，到他那裡告別。蔡廓對他說：「營陽王在吳地，應該豐厚地加以供奉。一旦發生不幸，你們諸位有殺主的名聲，想在世上立足，還有可能嗎？」當時傅亮已經和徐羨之商量害死少帝，於是便馳馬傳信停止行動，信到的時候已經趕不上了。徐羨之大怒說：「與人共同謀劃，為什麼才轉過背去就把惡名推給別人？」
等文帝即位，謝晦將到荊州去，與蔡廓告別，屏退其他人問他說：「我能夠免禍麼？」蔡廓說：「您受先帝的顧命，以國家為責任，廢昏君立明君，在道義上沒有什麼不可以；但是殺死別人的兩個哥哥，而讓他面北聽從命令，擁有震懾君主的威勢，佔據長江上游的要地，根據古代推論今天，自身免禍是很困難的。」
蔡廓年齡和職位都很輕，卻被當時的社會所推重，每當到了年節，都束好衣帶到他門上去看望。他侍奉兄長蔡軌如同父親，家中的大小事情，都是詢問以後再行動，俸祿和賞賜，一律都交給蔡軌，有時需要花費，全都是到主管人那裡去要。他跟隨武帝在彭城，妻子郗氏寫信向他要夏服。蔡廓寫信回答說：「知道你需要夏服，估計給事中自然會給你提供，不可以另外尋求。」當時是蔡軌做給事中。元嘉二年(425)，蔡廓去世。武帝常常說：「羊徽、蔡廓，可以與三公平等看待。」