張瑰字祖逸，是吳郡吳縣人。祖父張裕曾任宋的金紫光祿大夫。父親張永，官至右光祿大夫。通曉音律，宋孝武帝曾問張永太極殿前鐘聲音為什麼有嘶聲，張永回答說：「鑄鍾時有銅滓摻入了。」於是扣鍾找銅滓所在，鑿去銅滓，鐘聲於是清越起來。
張瑰最初任官為江夏王太尉行參軍，署外兵，又隨府為太傅五官，很受劉義恭的知遇。遷官太子舍人，中書郎，驃騎從事中郎，司徒右長史。當初，張永曾在白下領軍抵抗過桂陽叛軍，潰散，阮佃夫等要加罪張永，太祖(蕭道成)反覆為他申辯，張瑰從此感恩太祖主動來結好關係。轉任通直散騎常侍，驍騎將軍。父親去世，張瑰回到吳縣家中服喪。
升明元年(477)，劉秉起異心，當時其弟劉遐主管吳郡，其兄弟暗中響應。又趁著沈攸之事件，聚眾三千人，並打造攻城器具。太祖密遣殿中將軍讓白龍前往傳命張瑰，讓他拿下劉遐。諸張世代有豪氣，張瑰家中經常有其父舊部將士兵數百人。劉遐來召張瑰，張瑰便假裝接受了劉遐的安排，然後與其叔張恕率領十八名士兵進入郡中，和防郡部隊主將強駑將軍郭羅雲進入齋中捉取劉遐，劉遐跳窗逃跑，被張瑰的部將顧憲子親手斬了，郡內沒有人敢動。捷報傳來，太祖又轉告了領軍張沖，張沖說：「張瑰只要用百十人，一出手便成功了。」隨即授張瑰輔國將軍、吳郡太守，封張瑰為義成縣侯，食邑千戶。太祖特別賜給他這個美名。
後來張瑰升任冠軍將軍、東海、東莞二郡太守，他沒接受。建元元年(479)，又增加食邑二百戶。不久改封平都。遷任侍中，加步兵校尉。建元二年(480)，遷任都官尚書，仍舊領校尉。又出任征虜將軍、吳興太守。建元三年(481)，烏程縣令顧昌玄犯罪，張瑰因為沒能及時糾辦，被免去官職。次年，被任命為度支尚書。世祖(蕭賾)即位後，任命他為冠軍、鄱陽王北中郎長史、襄陽相、行雍州府州事，隨府轉任征虜長史。建元四年(482)，又升為持節、督雍、梁、南秦、北秦四州郢州的竟陵、司州的隨郡軍事、輔國將軍、雍州刺史，不久又領寧蠻校尉。回到朝中任左民尚書，領右軍將軍，遷任冠軍將軍、大司馬長史。
永明十年(492)，轉任太常。自己打報告說體衰多病，願從閒修養，次年，轉任散騎常侍、光祿大夫。不久，皇上打算再起用張瑰，於是任命他為後將軍、南東海太守，俸祿達到二千石，行南徐州府州事，又行河東王國事。張瑰到任後，又申說有病，回京來任散騎常侍、光祿大夫。鬱林王(蕭昭業)即位後，加張瑰金章紫綬。隆昌元年(494)，配給親信二十人。鬱林王被廢後，朝臣都到宮門參拜高宗，張瑰借口腳病沒有去。海陵王即位後，加封他為右將軍。高宗懷疑南齊書外地蕃鎮會起兵，便讓張瑰鎮守石頭，督眾軍事。張瑰見朝廷多難，遂長期臥病不起。建武元年(494)，張瑰轉任給事中、光祿大夫，皇上對他親信仍舊。每月增加錢二萬。建武二年(495)，北虜大侵，皇上下詔要張瑰以本官假節督廣陵諸軍事、行南兗州事，虜退後張瑰便回到朝中。
張瑰居室豪富，滿房伎妾，有十多個兒子，他經常說：「其中總應該有好的。」建武末年，張瑰多次請求高宗讓他回到吳中家裡去，被批准。優遊自樂，有人譏刺說他衰暮之年還蓄養伎樂，張瑰說：「我從少年時就喜歡音律，年老了才弄通。平時的愛好現在沒有一點了，只有這一項還沒能丟掉。」
高宗病重時，對大司馬王敬則有疑防，考慮到張瑰一向有才幹謀略，便授他平東將軍、吳郡太守，以防備王敬則。後來王敬則謀反，張瑰派三千將吏在松江迎拒叛軍，這些人一聽到王敬則的鼓聲，一下子都逃散了，張瑰也棄郡逃到民間。事件平定後回到都城，被有關部門奏劾，免官削爵。
永元初期，張瑰任光祿大夫。不久加前將軍，金章紫綬。永元三年，義師下都，東昏侯(蕭寶卷)假張瑰節，令他戍守石頭。義師到了新亭，張瑰棄城逃到宮裡。梁初恢復他為光祿大夫。天監四年(505)去世。
本史作者認為：文是用來號召群眾的，武是用來樹立威風的，元帥的才幹，稱為輔國。沈攸之治兵十年，老來才舉事，自荊楚上流，沿江東下。這是帝王之大敵，驅除之巨難。柳世隆勢居中夏，年資淺職位輕，但率先抵抗沈攸之，以孤城挑戰，臨埤授策，戰馬不曾流汗，而強寇沮喪力屈。混亂爭搶著投降的投降，逃散的逃散，當年陸遜破劉備，也不過如此。後來世道清寧，出任牧長，內為輔佐，既有風度，又有雅德，這正是興家的盛美啊！
贊語：忠武匡贊皇業，真可稱是文武兼資。在朝廷可以講析玄理，在戰場能夠指揮若定。遊藝於術數，又長於琴龜。張瑰得封義成也真是有義，他為皇基樹立了功績。