蔡凝字子居，濟陽考城人。祖父蔡撙，是梁吏部尚書、金紫光祿大夫。父親蔡彥高，是梁給事黃門侍郎。
蔡凝年少聰明有悟性，容貌俊美，舉止優雅。長大後，廣泛涉獵經傳，文辭優美，尤其擅長草書、隸書。天嘉四年(563)，初任秘書郎，調任廬陵王文學。光大元年(567)，任太子洗馬、司徒主簿。太建元年(569)，升任太子中舍人。以知名公子選婿，娶信義公主為妻，封為駙馬都尉、中書侍郎。升任晉陵太守。等到快要前去郡中任職，竟令身邊的人整治中書官舍，對賓客朋友說：「希望後來的人沒有煩勞，不也可以嗎？」不久任寧遠將軍、尚書吏部侍郎。
蔡凝年紀不大，地位不顯，而才學卻在當時被推重，常常端坐於西齋，自己雖不是尊貴名流，卻很少與他人往來，趨炎附勢者多譏笑他。高宗常常對蔡凝說：「我想用義興主的夫婿錢肅任黃門郎，卿意以為如何？」蔡凝正色回答說：「帝的同鄉與舊戚，若恩惠依從聖旨，那麼就沒有可以再問的了。若以大家的意見為標準，黃散之職，本來必須人品與出身都美，請陛下決斷。」高宗默然而止。錢肅聽說後心懷不滿，吩咐義興主經常向高宗說蔡凝的壞話，不久蔡凝被免職，調到交..。很快追他還朝。
後主繼位，任命他為晉安王諮議參軍，調任給事黃門侍郎。後主曾設酒會，群臣非常高興，打算移宴席於弘范宮，眾人都跟去，只有蔡凝與袁憲不動。後主說：「卿這是為什麼？」蔡凝回答說：「長樂尊嚴無比，不是酒後去的地方，臣不敢奉詔。」眾人都失色。後主說：「卿醉了。」隨即吩咐人把他帶出去。又一天，後主對吏部尚書蔡征說：「蔡凝自負門第，誇耀才學，沒有什麼用處。」不久遷任信威晉熙王府長史。蔡凝鬱鬱不得志，於是喟然歎息說：「天道有廢有興，夫子說『樂天知命』，這道理差不多可以明白了。」於是作《小室賦》以表現其志向，很有文采和道理。陳亡後入隋，在途中因病去世，時年四十七歲。其子蔡君知很有名氣。