張譏字直言，清河武城人。祖父張僧寶，為梁朝散騎侍郎、太子洗馬。父親張仲悅，梁朝廬陵王府錄事參軍、尚書祠部郎中。
張譏年幼時聰明俊美，思辯能力強，十四歲時，通曉《孝經》、《論語》。篤好玄言，師從汝南周弘正，常有新見解，被同輩們推崇佩服。梁朝大同年間，征補為國子《正言》生。梁武帝曾到文德殿釋解《乾文言》、《坤文言》，張譏和陳郡袁憲等人在場，梁武帝詔令大家議論，諸儒都不敢先發言，只有張譏整整衣冠便講，他論證嚴密，左右逢源，辭令溫婉典雅。梁武帝覺得他不同尋常，便賜給他裙襦絹等物，又說：「這是表彰你研習古經的功勞。」
張譏年幼時喪母，他母親留下一件鑲嵌彩色縱線的絲織手帕，張譏懂事後，家裡人把這件事告訴了他，每到一年的祭日他就對著手帕泣哭，不能自已。張譏父親去世，他在服喪期間過於毀頓。服喪期滿後，征補為湘東王國左常侍，不久遷任田曹參軍，後又調任士林館學士。
簡文帝在東宮時，到士林館以《孝經》出題目。張譏論議滔滔不絕，很受讚賞。從此每有授講詩文集子，定要派遣使者召請張譏。侯景叛亂時，宮城被圍，張譏還在武德後殿跟哀太子講授《老子》、《莊子》。梁朝台城陷落後，張譏在千辛萬苦中逃難，始終沒有效力於侯景。侯景之亂平定後，張譏任臨安縣令。
高祖接受禪讓，張譏任太常丞，不久遷任始興王府刑獄參軍。天嘉年間，調任國子助教。當時周弘正在國學，以《周易》出題目，周弘正的四弟周弘直也在講壇。張譏和周弘正議論，周弘正竟然辭屈，但其弟弘直正襟危坐措詞嚴厲，幫助他哥哥講述道理。張譏於是嚴肅地對弘直說：「今日議論詩文集子，辯名事理，即使知道你哥哥有困難，四公你也不能幫助。」弘直則說：「我幫助你的老師，有什麼不行呢？」在座的人都笑了。周弘正常對人說：「我每次登台講授，只要看見張譏在場，我就害怕。」高宗在位時，張譏任建安王府記室參軍，兼東宮學士，不久調任武陵王限內記室，東宮學士職務不變。
後主在東宮，召集宮內官員設宴，當時玉柄拂塵剛做成，後主親手拿著它，說：「當今學士如林，但能拿此玉柄拂塵者，只有張譏一人。」便親手給他。張譏又在溫文殿講授《莊子》、《老子》，高宗到溫文殿聆聽，賜給張譏一襲自己穿的衣服。後主繼位後，張譏擔任南平王府諮議參軍、東宮學士。後又調任國子博士，學士職務不變。後主曾駕臨鍾山開善寺召集侍臣坐在寺西南松樹林下，詔命張譏闡明義理。那時去拿拂塵的人尚未趕到，後主詔令拿來松枝，親手給張譏，並說：「可以代替拂塵。」後主又回過頭對群臣說：「這就是張譏未來之事。」張譏在禎明三年(589)入隋朝，死於長安，時年七十六歲。
張譏性情恬靜，不求名利，常常羨慕清閒安逸的生活，他的住所建在山水池邊，種植花果，講解《周易》、《老子》、《莊子》，並在這裡傳授其業。吳郡陸元朗、朱孟博、一乘寺沙門法才、法雲寺沙門慧休、至真觀道士姚綏，都轉授其業。張譏所撰寫的著作有《周易義》三十卷，《尚書義》十五卷，《毛詩義》二十卷，《孝經義》八卷，《論語義》二十卷，《老子義》十一卷，《莊子內篇義》十二卷，《莊子外篇義》二十卷，《莊子雜篇義》十卷，《玄部通義》十二卷，還撰有《游玄桂林》二十四卷，後主曾詔令去他家裡把它們抄寫後送進秘閣。
其子張孝則，官至始安王記室參軍。