張憲，字允中，晉陽人，世代因軍功為牙校。張憲還是兒童時，喜愛儒學，一心研讀經典，不分白天黑夜。太原地勢雄險偏僻，人多崇尚武力，以讀書為恥，只有張憲與同鄉藥縱之專心遊學，少年時盡通各種經典，特別精通《左傳》。曾帶著所學的書，謁見判官李襲吉，一見就欣喜驚歎。告辭時，對張憲說：「你努力吧。將來一定會成為良材。」石州刺史楊守業喜歡收藏書籍，把家裡書給他看，他的見聞一天天更淵博。
莊宗為行軍司馬時，廣招英俊人才，早就聽說張憲的名氣，令朱守殷帶書信錢幣邀請他，一年後以平民身份任交城令，任期屆滿，莊宗即位，補太原府司錄參軍。此時霸府初開，幕客馬郁、王緘，是燕地名士，全都與他交遊。十二年，莊宗平定河朔，思念過去藩府的舊屬，徵召張憲到行台。十三年，授監察，賜穿緋色服飾，任為魏博推官，從此一直執筆隨從。十五年，王室軍隊在胡柳作戰，周德威軍隊失利，張憲與同事騎馬渡河往北，梁軍在後急追，十分危險。到天晚渡黃河時，人都陷沒水中，張憲與侄子張朗踩著冰走，快到岸時，冰陷，張朗流著眼淚，用馬鞭接引張憲，張憲說：「我的孩子快走，不要都陷下去。」張朗說：「不忍心叔叔陷沒，一起死了也無遺憾。」張朗伏在地上伸出馬鞭，張憲躍身而出。這一夜，莊宗下令在軍中尋找張憲，有人說：「和王緘一起死了。」莊宗流淚要找到屍體，幾天後聽說他脫險了，派使者慰勞他。不久改任掌書記、水部郎中，賜金紫色服，歷魏博觀察判官。隨從討伐張文禮，鎮州平定後，授魏、博、鎮、冀十郡觀察判官，改考功郎中，兼御史中丞，臨時掌鎮州留守事務。莊宗即皇帝位，詔令回魏都，授尚書工部侍郎，充租庸使。八月，改刑部侍郎，掌管吏部選拔工作，兼太清宮副使。莊宗遷都洛陽，任張憲為檢校吏部尚書、興唐尹、東京副留守，主管留守事務。張憲學識廣博高深，尤其精通政治，剖析聽斷，人不敢欺。
三年春，莊宗御駕到鄴都，此時易定王都來朝見，莊宗在行宮設宴招待，準備擊鞠。起初，莊宗舉行即位典禮，占卜說鞠場吉利，因此在其間修築禮壇，到現在下詔毀掉禮壇。張憲上奏說「：即位壇是陛下祭接天神受命的地方，除了風吹雨打之外，不可隨意毀掉，也不可修理。魏州繁陽壇、漢州汜水壇，到今天仍有兆象顯示。存而不毀，是古已有之的規矩。」便下令在宮西修鞠場。數日未成。正好張憲因為公事受到責難，在閣門等待治罪，皇上大怒，告訴有關官員加快修治行宮宮庭，礙事的人全辭掉，最後還是毀了即位壇。張憲私下對郭崇韜說「：不祥之極，忘掉了根本。」
秋，郭崇韜帶兵征討蜀地，用親筆書信告訴張憲說：「你避事已很久，我受命西征，已上奏皇上讓你返回朝廷。」張憲回信說「：廚師代替屍祝，您所上奏的不是我想要幹的事。」當時樞密承旨段回揚言說「：北門是國家根本，非有德高望重的不可輕易授予，現在要人，非張憲不可。」趨炎附勢的人附合段回，巧為中傷張憲。又說：「張憲有宰相之業，然而國運中興，宰相在天子面前，得失可以改變，一方之事，決定在於一人，只有北面事情重大。」十一月，授張憲銀青光祿大夫、檢校吏部尚書、太原尹、北京留守，掌管北京府務。
四年二月，趙在禮進入魏州，此時張憲的家屬正在魏州。關東受到擾亂，趙在禮善待張家，派人送信到太原引誘張憲。張憲殺掉來使，信不啟封就上奏。不久明宗被眾兵劫持，各軍離散，張憲相隔遙遠不知事實，有人對張憲說：「蜀軍沒到，洛陽危急，總管又失去兵權，命令出自各軍，又聽說河朔推戴新的君王，事情如屬實，或許有希望？」張憲說：「治亂的時機，間不容緩，以我推斷，事態尚不明朗。我聽藥縱之說過，總管德量仁厚，一貫深得軍心，其餘不用多說，專心留意這個而已。」四月五日，李存渥自洛陽來到，口傳莊宗命令，並沒有詔書，只說天子授以一隻箭，拿來以作為憑信。眾人感到迷惑，時事不可預測。左右的人獻策說「：李存渥所騎的馬，已不見有飾物，他又召人去謀劃事情，一定有陰謀禍行，想佔據城壘。寧肯我負於人，應及早處置他，只要殺掉呂、鄭兩個宦官，並且拘留李存渥，慢慢觀察事情變化，可保萬全了。」張憲很久才說：「我本是一介書生，沒有軍功而身居此位，一旦自布衣百姓而紆金拖紫，向來仕宦不出其他門路，這個計策不是我的心意。事情若有不成功，將以身殉義。」第二天，符彥超殺呂、鄭二人，軍城大亂，燒殺搶劫到天亮。張憲剛聽到變亂，出城奔到沂州，不久有關官員追究他放棄州城之罪，四月二十四，賜死於晉陽的千佛院。其幼子張凝隨父親出走，也被收捕者害死。明宗行郊禮大赦天下，有官員請為張憲昭雪，明宗同意。張憲沉靜寡慾，喜愛收集圖書，家藏五千卷書，公事之餘，親手刊校。善彈琴，不飲酒，與賓客同僚宴會談話，只論文吟誦而已，士友很尊重他。
張憲的長子張守素，在晉朝做官，位至尚書郎。