張稷字公喬，幼年時就有孝順的品德。他的生母劉氏不受寵愛，得了疾病。當時張稷十一歲，侍養母親衣不解帶，每當病重時，則一連幾夜不睡。母親去世以後，他哀傷過人，拄著枴杖才能起來。見了年輩相同的幼童，就哽咽流淚，州里的人們稱他是淳孝。
長兄張瑋善於彈箏，張稷因為母親劉氏曾經先會這一藝術，所以聽見張瑋彈奏《清調》，便覺得悲傷欲絕，於是便終身不再聽它。
他性格隨便，開朗聰悟而有才略，起家為官先任著作佐郎，沒有上任。父親張永和嫡母丘氏相繼去世，六年中建房住在墓旁。齊朝永明年間(483～493)，擔任豫章王蕭嶷的主簿，和彭城的劉繪都受到禮待，不曾被呼叫名字，常常被稱呼為劉四、張五。因為家貧，請求做剡縣令，平時不問政務，常常進行小山漫遊。正遇上山賊唐宇之作亂，張稷率領部下保全了縣境。
生母劉氏先是假葬在琅笽黃山，建武年間(494～498)改行葬禮，別人資助的物品堆積很多。當時雖然沒有拒絕，事後又隨著歸還了他們。從幼年到成年，幾十年中，常年設著劉氏的神座。外出相告，回來面見，如同侍奉活人。
歷任給事中黃門侍郎、新興、永寧二郡太守。郡名犯了私人的忌諱，所以改永寧為長寧。永元末年，擔任侍中，守衛宮城。梁武帝的軍隊開到，兼衛尉江淹出逃，張稷兼衛尉卿，為王瑩的副官，都督城內諸軍事。當時東昏侯荒婬暴虐，北徐州刺史王國珍來找張稷進行謀劃，於是便派直閣張齊行刺於含德殿。張稷於是召右僕射王亮等人列坐在殿前西面的大鐘下面，商議派國子博士范雲、中書舍人裴長穆等人，出使前往石頭城見武帝，以張稷為侍中、左衛將軍，改任大司馬左司馬。
梁朝建立，他做散騎常侍、中書令。皇上即位後，封為江安縣子，位居領軍將軍。武帝曾在樂壽殿內設宴，張稷在酒醉後話多，怨忿流露在外。武帝當時也喝得很多，對他說：「你的哥哥殺死郡守，弟弟殺死君王，袖中提著皇帝的頭顱，衣服染有天子的鮮血，像卿家兄弟，叫什麼名號？」張稷說：「臣本是無有名號，至於陛下，則不能說臣無有功勳。東昏暴虐，您的義師也來討伐，難道只有臣下而已？」武帝捋著鬍鬚說：「張公實在可畏！」中丞陸杲彈劾張稷說：「領軍張稷，門風無有忠貞，做官必求顯達，殺君害主，成為常事。」武帝把奏表留在宮中，終不過問。
後來逐步改任尚書左僕射。武帝將要到張稷住宅中去，因為正在盛暑，留在了僕射省。舊時迎待皇上的用物，都交給宮官作為飯資。武帝因為張稷清貧，手寫詔令不予接受。宋朝時孝武帝曾經路過而到了張永家，到張稷已經三代，都有天子降臨，論者很以為榮耀。
張稷雖然官居朝廷高位，卻常常因成為話柄而慚愧，於是便把他的兒子取名伊字懷尹，霍字希光，..字農人。同字不見，見字不同，以標明他的志向。他既怕且恨，便請求出京任職，朝廷准許了。調出擔任青、冀二州刺史，很不得志，常常關上閣門讀佛經。防備鬆弛，官吏們常受到侵擾。本州人徐道角等人夜裡襲擊州城，於是將他殺害。有關方面奏請削去了他的封爵和封地。
張稷性情明捷剛烈，善於與人結交，歷來做官都沒有積蓄，薪水都送給了親友，家中沒有多餘的錢財。做吳興太守時，剛到任就去訪問遺老，任用他們的子孫擔任高級職務，政治以寬恕而被稱道。
起初離開郡裡而接受做僕射的徵召，路經吳地，鄉里等候張稷的人佈滿水中和陸地。張稷裝束簡單地直接回到都城，人們都不認識他，他就是這樣地樸素而率直。
張稷的長女張楚媛嫁給了會稽孔氏，沒生子女，返歸本家。在遇到張稷被害的時候，女兒見刀砍來，以身體遮擋，先於父親而死。