張岱字景山，是吳郡吳縣人。祖父張敞，晉時曾任度支尚書，父親張茂度，宋朝時任金紫光祿大夫。
張岱少時與其兄太子中舍人張寅、新安太守張鏡、征北將軍張永、其弟廣州刺史張辨都很知名，號稱「張氏五龍」。張鏡少時與光祿大夫顏延之做鄰居，顏延之高談闊論痛飲美酒，喧呼不休；而張鏡靜靜地不大聲說話。後來顏延之在籬邊聽見他和客人說話，拿個胡床坐籬邊靜聽，聽他辭義清玄，顏延之心服，對賓客說：「那邊有個人物啊。」從此不再痛飲大嚷。張寅、張鏡名氣最大，張永、張辨、張岱不及。
郡裡薦舉張岱為上計掾，沒成行，州里聘他為從事。後來遷任南平王右軍主簿，尚書水部郎。出京補東遷縣令。
當時殷沖為政吳興，對人說：「張東遷家貧需奉養，因此暫時棲身小邑。但是名聲才能已經顯露，終當大有前途。」
隨王劉誕在會稽起義，任用張岱為建威將軍、輔國長史，行縣事。事平後，張岱任司徒左西曹。他母親八十歲了，任職期未滿，張岱便離職回去奉養，有司因張岱違反制度，想要懲罰他，宋孝武帝說：「看過失可知他的仁，不要追究了。」後來他先後遷任撫軍諮議參軍，領山陰令，他處理公事嫻熟明白。
巴陵王劉休若任北徐州刺史時，還沒能親理政事，任張岱為冠軍諮議參軍，領彭城太守，行府、州、國事。後來臨海王為征虜將軍廣州刺史，豫章王為車騎將軍揚州刺史，晉安王為征虜將軍南兗州刺史，張岱歷任三府諮議、三王行事，和典簽主帥共事，辦事成功，關係融洽。有人對張岱說：「主王年幼，管事的又很多，而你總能調和公私關係，是怎樣做到的？」張岱說：「古人說一心可以事奉百君。我為政端正公平，以禮待物，不好的事自然不會發生。政事的清明昏暗長長短短，更是才能大小的體現啊。」
還都任黃門郎，遷任驃騎長史，領廣陵太守。新安王劉子鸞非常受寵因而被任為南徐州刺史，又把吳郡劃給南徐州。帝嚴格挑選僚佐。孝武帝召見張岱對他說：「卿美譽一直很高，且資宦已經很多了。現在欲讓卿作子鸞別駕，總管刺史之事，不要說屈才，最終會讓你大展身手。」孝武帝駕崩後，張岱遷任吏部郎。
明帝執政初期，四方造反。明帝因張岱幹練可靠，任他為持節、督西豫州諸軍事、輔國將軍，西豫州刺史。不久移任冠軍將軍、北徐州刺史、都督北討諸軍事，都沒去到官。泰始末年，任吳興太守。元徽年間(473～477)，遷任使持節、督益、寧二州軍事、冠軍將軍、益州刺史。數年間，益州被治理得社會安定。又調任侍中，領長水校尉，度支尚書，領左軍，升任吏部尚書。王儉當時任吏部郎，時時專斷吏部的事，張岱每每和他意見不一致，後來王儉做了宰相，以此對岱頗不友好。
其兄之子張環、弟張恕，誅殺吳郡太守劉遐。太祖欲使張恕為南齊書政晉陵郡，張岱說：「張恕不宜從政，美錦不宜濫裁。」太祖說：「張恕的為人我很清楚。並且又和張環立了同樣的大功，自當有賞。」張岱說：「如果因家貧賞賜俸祿，這另當別論；若說因功勳而獲此任，這是臣家門之恥。」
不久張岱加任散騎常侍。建元元年(479)，出京任左將軍、吳郡太守。太祖知張岱歷任官職都很清廉正直，到郡裡不久，親筆下敕給張岱說：「吳郡乃是大郡，責任重大，因此不想再換別人，但總管的軍事政務很繁多，應當名符其實，現任命卿為護軍。」加給事中。張岱拜官完畢，朝廷詔命他以家為府。張岱向朝廷報告自己的病情。第二年，遷任金紫光祿大夫，領鄱陽王師。
世祖即位，又任張岱為散騎常侍、吳興太守，俸祿待遇級別為二千石。張岱晚年在吳興，更以寬厚仁恕著名。遷任使持節監南兗、兗、徐、青、冀五州諸軍事、後將軍、南兗州刺史，常侍如故。未拜官，亡故。其時七十一歲。張岱當初有遺命，將家財分封於箱子裡，隨家業的增減而有所改變，如此執行十幾年。追贈本官，謚號「貞子」。