張嵊字四山，鎮北將軍張稷的兒子。年少時方正風雅，志向遠大，言辭清麗。他的父親到青州做官，被土著居民殺害，張嵊對此家禍感傷不已，終身吃素食，穿粗布衣，手不拿刀刃。後被州里舉為秀才。初為官時任秘書郎，歷任太子舍人、洗馬、司徒左西掾、中書郎。出任永陽內史，回京後任中軍宣城王司馬、散騎常侍。又出任鎮南湘東王長史、尋陽郡太守。中大同元年(546)，征闢為太府卿，不久遷任吳興郡太守。
太清元年(547)，侯景圍攻京城，張嵊派遣弟弟張伊率郡兵數千人增援。三年(549)，宮城被叛軍攻破，御史中丞沈浚避亂回故鄉，張嵊前去拜見沈浚說：「賊臣稱雄，社稷危亡，宗廟羞恥，正是人臣效命報國的時候。現在想收集兵力，保護佔據家鄉。如果天道不靈，忠臣無用武之地，雖然死去，也不遺憾。」沈浚說：「我的家鄉雖是小郡，仗義抗拒叛逆，誰敢不服從！」堅決地勸張嵊舉起義旗興兵討賊。於是收集士卒，修繕加固城防工事。當時邵陵王東逃至錢塘，聽到這一消息後，派人授任張嵊為征東將軍，加官秩為中二千石。張嵊說：「朝廷危急，天子受辱，今日哪有情致，再接受榮譽封號。」留下報書而已。叛軍行軍劉神茂攻破義興城，派人勸說張嵊：「如果早日投降歸附，當仍讓你作郡守，加官增爵行賞。」張嵊下令殺掉來使，仍派軍主王雄等率兵在鱧瀆阻擊敵人，攻破劉神茂軍隊，劉神茂率兵敗逃。侯景聽說劉神茂兵敗，便派中軍侯子鑒率精兵二萬人，援助劉神茂攻擊張嵊，張嵊派軍主范智朗在郡西抗擊敵軍，被劉神茂擊敗，退守郡中。敵軍騎兵乘勝焚燒張嵊軍營，所部軍隊土崩瓦解。張嵊便脫下軍服，坐在議事廳裡，敵軍將刀架在他脖子上，始終不投降，敵軍便將張嵊送交侯景，侯景將他在都市中殺害，張嵊的兄弟子女一同被害者十餘人，時年六十二歲。叛亂平息後，世祖追贈他為侍中、中衛將軍、開府儀同三司，謚號稱忠貞子。