張興世字文德，竟陵人。本來是單名世，宋明帝給他增加為興世。少年的時候家貧，以平民身份隨王玄謨討伐蠻邦。後來隨著孝武帝鎮守尋陽，補任南中郎參軍都護，隨從入京討伐元兇劭。後來南郡王劉義宣反叛，又隨從王玄謨前往梁山，立有戰功。
明帝即位，四方反叛，晉陞張興世為龍驤將軍，率領水軍抵禦南方的賊寇。當時朝廷的軍隊佔據赭圻，朝廷派遣吏部尚書褚彥回到赭圻選拔賢才。這次戰役，都是在戰前先授予了職位，書寫檄文的木板不夠用，於是用黃紙小札。南方的賊寇屯駐在鵲尾。雙方相持很久沒有決戰，張興世建議說：「賊軍佔據上游，氣勢很盛，現在派遣奇兵悄悄地出現在它的上游，使它首尾不安，進退疑慮，糧食運輸艱難，這才是制勝的奇計。」沈攸之、吳喜都很贊同他的計策，分出七千戰士配備給他。張興世於是命令乘輕舟溯流而上，很快又回來，一兩天中反覆如此，使賊對此不加防備。賊軍統帥劉胡聽說張興世打算到上游去，譏笑他說：「我尚且不敢超過他們向下游攻取揚州，張興世是什麼人，竟想佔據我的上游地帶！」張興世對沈攸之等人說：「上游只有錢溪據守。」於是便前往佔據了它。等劉胡前來進攻，將士們準備迎擊他，張興世說：「賊軍尚遠，而且士氣緊張旺盛。緊張過後力量用盡，旺盛也很容易衰竭，這正是曹劌打敗齊國的原因。將士們不可妄動。」賊軍越來越近，張興世就命令壽寂之、任農夫率領壯士把他們擊退。袁青生氣地說：「賊兵處在人的肝臟裡，怎麼還能活得成？」這個月的初一，赭圻的兵士伐木做成柵欄，在青山遇到一個童子說：「賊軍在下旬就會平定，用不著自討苦吃。」忽然就不見了。到了這時，果然打敗了敵軍。張興世又切斷了他們的糧道，賊軍逐漸發生飢餓，劉胡丟下軍隊逃跑了，袁青也奔散了，張興世於是和吳喜共同平定了江陵。他被調任右軍將軍，封為作唐縣侯。歷任雍州刺史、左衛將軍。因為有病，改任光祿大夫，不久死去。
張興世的住處臨近沔水，從襄陽以下到長江二千里，原先並沒有沙洲，張興世出生，在他家門前的水中，有一天忽然生出一個沙洲，一年年漸漸變大。等到張興世做了諸侯，洲上已有十幾頃大。
父親張仲子由於張興世而做了給事中，張興世打算要往襄陽去，他則因為熱愛家鄉而不忍離開。他曾經對張興世說：「我雖然是田舍老公，卻喜歡聽演奏鼓角，你可以送我一支樂隊，種田的時候想吹奏一番。」張興世平素做事恭謹害怕法律，便給他解釋說：「這是天子的鼓角，不是田舍公所能吹奏的。」張興世想去拜掃祖墳，張仲子說：「你的侍衛太多，先人一定會受驚害怕。」張興世減撤了一些人才去了。他的兒子叫張欣泰。