孔皂字德璋，會稽山陰人。祖父孔道隆，位居侍中。父親孔靈產，泰始年間(465～471)，任晉安太守，有隱遁之志。在禹井山建立了一座館舍，侍奉道規非常精心。吉日在安靜的屋子裡朝四個方向朝拜，淚流不止。一次東出路過錢塘城北面，便在舟中遙拜杜子恭墓。從這裡直到都城，他面朝東坐著，不敢背對或側對。元徽年間(473～477)，為中散大夫，很懂得星文，喜歡術數。齊高帝輔政，沈攸之起兵，孔靈產告訴高帝說：「沈攸之的兵眾雖然很強，但是以天時運數來看，沒有什麼作為。」高帝驗證了他的話，提拔他做光祿大夫，用竹箱盛著孔靈產抬上靈台，讓他佔候吉凶。贈給孔靈產白羽扇、白几案，說：「您有古人之風，所以贈給您古人的衣服。」當時的人都認為十分榮耀。
孔皂少年時在學問的涉獵上有很好的聲譽，太守王僧虔見到後非常重視，任用他為主簿。後來舉為秀才，又陞遷為殿中郎。高帝做了驃騎，取他為記室參軍，與江淹一齊掌管辭筆。擔任尚書左丞，遇到了父親的喪事離職。和他的哥哥孔仲智回到了他們父親的山舍居住。孔仲智的妾李氏驕妒無禮，孔皂告訴了太守王敬則把她殺掉。
永明年間(483～493)，歷任黃門郎，太子中庶子，廷尉。江東繼續使用晉朝時候的張、杜律二十卷，武帝留心法令，多次審訊囚徒，詔令獄官詳細地訂正舊注。在此以前尚書刪定了郎官王植撰寫訂正的法律，上奏後，刪削其中的煩瑣有害的條文，采錄其中允當合理的部分，吸取張裴的注七百三十一條，杜預的注七百九十一條，或者二家兩種解釋意義才完備的，又取了一百零七條，他們的註解相同者取了一百零三條，集結為一本書，共一千七百三十二條，為二十卷。孔皂請求交付外界詳細校訂，挑出其中不合理的地方。詔令採納了他的意見。於是公卿八座參議，考正舊注，有可輕可重的地方，竟陵王蕭子良的意見大多使它從輕。其中朝官們議論不能斷定的，則按皇上的意見裁決。到了永明九年，孔皂奏表呈上《律文》二十卷，《錄序》一卷，又設置了律學助教，依照《五經》的例子，詔令答覆依照他的意見執行，事情終於沒有落實。轉為御史中丞。
建武初年，他做平西長史、南郡太守。孔皂因為魏朝連續南侵，百姓死傷，便上表陳述了通和的策略，明帝不聽從。徵調為侍中，沒有上任，留在本來的職位上。
孔皂風韻清疏，喜好文章和吟詠，飲酒七八斗。和他的表兄張融情趣相合，又和琅笽的王思遠、廬江的何點、何點的弟弟何胤都很要好，不喜歡世俗事務。居住的宅院裡營建了許多山水，在小桌前獨自飲酒，別無雜事。門庭以內，雜草不剪。當中有青蛙的叫聲，有人問他說：「想做陳蕃嗎？」孔皂笑著回答說：「我拿這可以當作兩部樂隊，何必傚法陳蕃！」王晏曾經奏著樂等候他，聽到了群蛙亂叫，說：「這叫聲很聒人耳朵。」孔皂說：「我聽樂隊，還不如這。」王晏的臉色非常慚愧。
永元元年(499)，他擔任都官尚書，調為太子詹事，加任散騎常侍。三年，孔皂得病，東昏侯將他排除，用床把他抬走，因此病情加重，於是死去。贈他為金紫光祿大夫。