張普惠，字洪賑，本是常山九門人。他身高八尺，容貌魁偉。父親張曄，本是齊州中水縣的縣令，張普惠隨父親到中水縣，在齊州接受學業熏陶，他專心研讀遠古的經典，勤奮不止，等他返回故鄉，到程玄處聽講學習，精通《三禮》，兼好《春秋》，對百家學說都有所掌握，儒士都對他十分稱譽。
太和十九年(495)，張普惠被任為主書，帶制局監，和劉挑符、石榮、劉道斌一同當值，高祖對他很瞭解。後來他轉為尚書都令史。任城王元澄看重他的學問，為他提高名聲。僕射李沖曾經到過元澄家中，看見張普惠的言論，也十分敬佩他。世宗初期，張普惠轉為積射將軍，元澄被任為安西將軍、雍州刺史，啟用張普惠擔任府錄事參軍，不久負責馮翊郡的事務。
元澄有喪服在身，想在七月七日集會文武職官到北國進行獵射。張普惠奏勸元澄說：「我以為三殺九親，別疏暱之敘；五服六術，等衰麻之心。都是用行動儀製表達情感，是不能更改的道理啊。但是最大的苦痛，深深銘記於終身之外；而銘碑刻文，主要是在喪期之內。以外不可失去禮節，所以在外的人不可沒有節制，所以斷之為三年，在內的人不可以立即就除去喪服，所以要督促於日月。禮，大殮之日要鼓素琴；用它來代表吉祥。小寶之上，不是虞纖殮除的時候不洗澡，這就是用制度來約束。曾子問：『相識的人有喪，可以同他去祭祀嗎？』孔子問答說：『只服喪而不祭祀，又怎麼能有助於人呢？』祭祀既不相與，我懷疑也就沒有宴飲的道理。又說：『廢喪服，可以與於饋奠之事乎？』孔子回答說：『脫喪服去祭奠，不符合禮法啊！』註釋說：『為了讓他忘卻哀痛啊。』我以為剛除喪的時候，不備酒食，在小喪之內，怎麼可以去觀看狩獵呢？《雜記》上曾講：『大喪之下，既葬適人，人給予他們酒食，他們的一夥人也可以食用，而不是他們那夥人也不給食物啊。給食物尤要選擇對象，對於獵射就更令人迷惑了。我見您明確告知，確立了狩獵會集的日子，將於七月七日的時候，集全城的文武官員，到北國去較量武技，相互行相見之禮。這時又不是秋季大閱的時候，恐怕又涉嫌妨礙農家節氣。國家縞素剛除，殿下喪服仍在，釋懷為樂，由此教育百姓，便是變更先王的章程制度，忘卻悲哀情感，恐怕不能以此來昭示您的品德，為子孫榜樣啊。按照《射儀》，射者是以禮樂為本的，忘掉這個本而從事射，不可以說是合乎禮法呀。鐘鼓不擺，也不可說是樂啊，除了這二者，又怎麼用射呢？何況七日之戲，命令制度沒有，所花費用，我考慮有違事體。現在府庫還很空虛，需要等待新的租稅，一點小的趣味，停下來也很方便。請您等到九月，再裝備完善去盡興而去；然後奏狸首反丘之事歌樂，宣告矍相的命令，聲音軒懸，建起雲鉦，那時正是百姓之人人歡欣快樂之時啊。所以我希望您能讓我朝的慈善賢名得以遠近皆聞，百姓以此為希望。行動言語都依循禮法規則，希望您能廣泛請教，垂詢下問，予以採納。彰揚他們的一管之見，寬恕他們失言的責任，那麼社會田野無遺歌，人人都有奉獻的積極性了。」元澄本意是要採納張普惠的意見的，找了個借口自己作罷，於是回答說：「文武之道，自古就有一定成規，明恥教戰，振古常軌。現在雖然不是公開的制度，但這個州繼承以前的風俗，已經有了一定方式了。既不勞民損公，那麼任由他們私下較射，又有什麼損失呢。況且練文習武，人之常藝，怎麼能於常規技藝之間，必須做什麼命令規定呢？我原本想依照以前州府相率成習的規矩，於公務之暇，習藝的良時來進行，也沒有講要動用庫物錢財。禮，兄弟內除，明哀已經過去，小喪，客來主人不能絕樂。聽樂既然可以，觀武又有什麼妨礙呢？只不過我自想此緣故必須停止，先用命令停止後才收到你的請求，深知你的用意。」
元澄轉到揚州後，又啟用張普惠為羽林監領鎮南大將軍開府主簿，不久又加任威遠將軍。張普惠既然受元澄知遇，所以他歷任二代藩王的幕佐，很有聲譽。回京之時，張普惠裝束簡單，元澄送給他二十匹絹用來充當行資。回到藩王所在之地後，仍負責羽林監。
又有元澄遭遇到太妃去世，文武百官為太妃立碑寫頌，準備在碑上題「康王元妃之碑」幾個字。元澄求訪張普惠的看法，張普惠回答說：「認真查尋歷代朝廷典章，但只有王妃之稱，而沒有元這個字。魯夫人孟子稱「元妃」的人，意思是同下面『繼室聲子』相對應。現在烈懿太妃作為先王之婦，更沒有聲子、仲子的嫌疑，我以為不必假借『元』字來區別其名位。況且用氏配合姓，我認為這是對人活著時候的稱呼，所以《春秋》有『夫人姜氏至自齊』之句。既然去世下葬，就要用謚號來配姓，所以經上書寫『葬我小君文姜氏』，又有『來歸夫人成風之離』，都證明應當用謚配姓。古時的人婦女死後隨從丈夫的謚號，今烈懿太妃品德冠絕一世，所以受到特別的褒彰與賜贈，這就是萬代的重要事情，怎麼能容在評定名謚這樣重大的問題上，不稱烈懿呢？」元澄聽從了他的意見。
及至朝廷大軍大舉再征鍾離時，張普惠擔任安樂王元詮的別將長史。班師後，授職為揚烈將軍、相州安北府司馬。不久又升為步兵校尉。後又以這個官職兼領河南尹丞。世宗去世，因與甄楷等飲酒遊玩之事連坐而被免官。驍騎將軍刁整，家中原有舊的規定，將要舉行儉樸的葬禮，張普惠認為這做法太過矯情，同刁整書信討論，事情記載於刁雍傳中。過去的慣例，免官的人，三年之後降一職後再啟用，如果才優而被提拔授官者不在此例。熙平時期，吏部尚書李韶言張普惠有文采學問，依照才優提拔之例，應當特別提拔使用，朝廷命令任職為寧遠將軍、司空倉曹參軍。朝廷輿論因其不降級而榮耀。當時任城王元澄為司空，他的表議書文記錄，大都出於張普惠之手。
廣陵王元恭、北海王元顥，懷疑為祖母服喪期三年之事，博士們各自意見不同，命群官共同商議。張普惠議論說：「認真按照二王祖母的問題推論，這二位老太太都是先王予以誥命的。做為二國的太妃，可以說是受命於天子，是二國最初被封的母后。《喪服》『慈母如母』一句在三年這一章中。傳上也講：『貴父命也。』鄭玄為之註釋說：『大夫之妾的兒子，父親如果在則要為母親做大喪，於是成為士之妾之子為母舉喪的喪期。父親去世都因此為準。』這就是大夫命令妾之子，用來報答母之慈愛，仍然是在尊重父命，為之三年。何況天子命他的兒子為各國國王，命生他兒子的母親為該國的太妃，反倒自己同公子為母喪身著粗服和穿九月之喪服嗎？輕重顛倒，沒有比這個更甚的了。傳書講『始封的君主，不讓自己的兄弟稱臣』，那當然服喪也當如此。如魯、衛列國，互相服喪判定無疑啊。怎麼說呢？《喪服》講『君為姑姊妹女子嫁於國君者』。傳書上說：『怎麼用大功？尊貴相同啊。尊貴相同，那就得按相同服喪期來服喪。諸侯的兒子稱為公子，公子不可以稱先君』。但是兄弟一體，位列諸侯，自然要因相等的尊貴來互相為之服喪，不可以用公子的標準來壓抑天王。所以降有四品，君、大夫因尊貴而降，公子、大夫的孩子因厭而降。名稱事例不同，怎麼可以亂了呢？禮法規定：大夫之妾的兒子，因父命慈悲於自己，延伸到三年。太妃既然受命於先帝，光照一國，二王祭祀祖先廟社，顯名受賜於大的藩國，父親同處高位，親近而不稱為公子，雖然許、蔡失去其地位，也不過如此而已。《服問》上說：『有從輕而重，公子之妻為其皇姑。』公子雖受厭，妻子尚要獲得伸展，何況廣陵、北海二王，論封乃是被封之君的兒子，說到太妃乃是誥命太妃的孫子，繼太妃承繼重位，遠別先皇，更因先後的正統，厭生自己的祖先，比之如皇姑，不也太遠了嗎？現在既然允許他們延續其服喪再規定他們服喪的期限，比之慈母，不也很明確嗎。經書上講：『為君之祖父母、父母、妻、長子。』傳書上講：『何以期？父母長子君服斬，妻則小君。父親、然後為祖後者服斬。』現在祖輩乃是獻文皇帝，諸侯不得繼承，母親是太妃，這就是二王要服三年之喪的證據，議論的人背離真正的經典而依附錯誤的考據，差之毫釐失之千里。何況天子尊重規則讓其享受祭禮，並不是什麼臣妾的地位，怎麼能命她為國母而不讓他的子孫按其所親來服喪呢？記書上講：『隨同服喪的人，要隨同所故去的人，這是標準啊。』又說：『不為君母之黨服喪，就要為他的母親之黨服喪。現在既然所隨從的已經故去，不因親服喪而服喪其所生，那屬於所隨從的服喪又從何處施行呢？如果因諸王進入朝廷而成為公卿便同一般的官大夫相等，那麼現在的議論，都不要用來說什麼藩國的話了。現在諸王，自然同於列國，雖沒有到他的圍城，但同其他臣屬仍然並非同列，受一方之封，不得用諸侯來講他們啊，讓我斗膽請求根據周禮，讓二王為太妃服喪三年。」
當時議論者也有不同意見，國子博士李郁就在罷議之後，作書質問張普惠，張普惠根據禮法回答，三次鄭重其事地書面交鋒，李郁的理由站不住腳而認同於張普惠的觀點。後轉任諫議大夫。元澄對張普惠說：「我不高興您得到諫議這個官職，惟獨高興諫議這個官職得到您。」
當時靈太后的父親司徒胡國珍去世，贈相國、太上秦公。張普惠因前世皇后之文沒有「太上」之號而到殿上疏，陳述這樣做不可行。左右都十分畏懼害怕，不敢為他通報。正值張普惠聽說胡家在修墓下墳時有一塊大的堅硬石頭，於是就秘密上表(表文略)。太后閱覽了他的表章後，親自來到胡國珍的宅院，召集王公、八座、卿尹和五品以上官員，廣泛地討論這件事，並派使者召張普惠來相互問答，又讓侍中元叉，中常侍賈璨監察得失。任城王元澄問張普惠說：「漢代高祖劉邦為帝，尊自己父親為太上皇。現在聖母臨朝，贈自己父親為太上公之號，追求這個原因事實，並不是沒有過規定啊。何況皇帝舉動就可以成為準則，又何必要遵循什麼舊制呢？」張普惠回答說：「天子的命令稱為詔，太后的命令則稱為令，所以周代的臣子有十亂，文母參予啊，仰思所難，竊以為不當相比。」元澄又說：「前代太后也有稱詔的例子，聖母有想保持謙虛的道理，所以不稱詔罷了，怎麼能用詔和令的區別來廢除母后對父親的孝思呢？」張普惠回答：「皇后的父親稱太上，自古未有。前代之母后難道不想尊崇自己的父親嗎？您怎麼不遠遵古來之義理而非順從現在皇后的旨意呢？我不理解太后怎麼在稱詔稱令上謙虛卻在太上問題上不謙虛。竊以為聖後應當一直保持自己謙虛之美德。」太傅、清河王元懌問道：「過去在晉代，褚氏臨朝當政，殷浩在給褚裒書中講：『足下，令之太上皇也』，怎麼太上公反倒導致疑惑了呢？」張普惠回答說：「褚裒因女兒輔政而推辭不再入朝。淵源為諷刺他的不恭敬所以有太上一稱的諷刺，本來稱呼他的錯誤，不是記載他的正確，不想殿下用這個典故來詰難我。」侍中崔光說：「張先生表中引證晉有小子侯，本來出自鄭玄的註釋，不是出自正式經典。」張普惠回答說：「這雖然不是正式經典的文獻，但他所講述的是正式經典的含義。您好古習禮，又怎麼能再用這個來指責呢？」御史中尉元匡因此對崔光說：「張普惠的密表中講，晉時的小子侯，因名號相同而被認為是假過兮。現在的事，太上公名稱同太上皇、和晉小子的事又相類似，但我不才不敢辨析他的對錯。「張普惠回答：「中丞既然懷疑其正確，卻不糾正其錯誤，這怎麼能符合在三獨之位的名望呢。」尚書崔亮講道：「張普惠諫議的所見，正因為太上之稱呼不應當施行在人臣身上。但是周朝有姜太公尚父之稱，身兼二個名稱，人臣尊重的稱呼，因此知道並非是從現在開始的。」張普惠對答他說：「尚父的稱號是指有品德應該崇尚；太上的稱號是指上中還有上，名義相同而實在意義上相異，這也並不能相提並論。」崔亮又說：「古時有文王、武王，還有文子、武子。然而太上皇，太上公又怎麼能嫌它們的相同呢？」張普惠回答說：「文武者，是指品德行為的事跡，所以事跡同所以謚號同。太上者，是尊貴至極的地位之稱，怎麼能通行實施於臣子。」廷尉少卿袁翻說：「《周官》載有：上公九命，上大夫四命。命數雖然不同，但同為上，何必說上者都是極尊呢？」張普惠嚴厲地呵斥袁翻說：「禮法上有下卿上士，何止於大夫與公爵，但現在所行的是將太加於上，二個名稱並舉，是非常的極尊。你的那種言辭乃是彫蟲小技，平時或許還可一用，到了這種地步，怎麼是你所能達到的呢？」袁翻很有慚愧之色，默不復言。任城王元澄說道：「諫勸諍辯的本義就是各自陳述自己的所見所聞，至於如何運用取捨，本來就在於應對當時之情。您剛才對待袁翻先生，為什麼要聲嚴厲色呢？」張普惠回答說：「他的話如果正確，適合於採用那是一回事；他的話如果不正確，恐怕就要有罪過相連了。正確錯誤必須辨清，不是因為不嚴肅的較勁競爭。」元澄說：「朝廷剛剛開啟不避諱之門，以廣大忠言的道路。先生現在講意思在於爭論義理，又怎麼說要顧慮罪罰呢？」議論的人都因太后當朝理政，本意上相互都想崇奉順從，於是就上奏說：「張普惠雖然言辭上不肯屈從，但是大家並不認同，渙汗已流，請仍然按照前詔所定。」太后又派元叉、賈璨宣讀對張普惠的命令說：「我剛才召你和大家各位大臣一起共同對此問題爭論，從頭到結束，大家都不同意你的密言表章。我們所做所行乃是孝子的心意，你的陳述，也是忠臣所要遵行的道理。大家已經有了一個結果的定論，你不能再苦苦地改變我對父親的懷念之意。以後有所意見，不要因此而覺得難以開口。」張普惠於是拜謝太后之令告辭而還。
當初，張普惠被召入朝，傳詔者策鞭寶馬而來，十分迅速，等在那裡催他前去，普惠兒女們驚恐萬分，啼哭聲一片。張普惠對他們說：「我處政治清明之朝，任諫議之職，假如不說人們想說而不敢說的話，諫論別人想論而不敢論的事，便是惟惟諾諾，白受俸祿。人生固有一死，我只求死得其所，這便沒什麼可遺恨的。而今朝廷有道，你們不必擔心。」等到朝議結束，聖旨慰勞其回家休養，親朋故戚祝賀他蒙承皇恩。當時中山莊弼派人送信給張普惠說：「明侯您淵儒博學，身懷奇才，秉抱公心，出任諫職，忠耿正直，直言陳諫。像昨天在胡司徒府第，面對眾人面折庭爭，雖然大家問題古怪刁鑽，而您卻應答響如流水，宋城之帶始縈，魯門之梆裁警，最終使後生們徘徊不前，眾僚拱手默然，您的議論雖然不見得立即見效，一定會為百代之後傳頌。聽說此事，我很快慰，敬呈此書，略表敬意。」張普惠以信中美辭而自豪，每每說與人聽。
張普惠覺得國中百姓的賦稅，負擔沉重，尚書計奏，又徵收綿麻，他擔心這會使老百姓不堪忍受，上疏說：
「聽說尚書陳奏恢復綿麻的徵調，遵從先皇的做法，臣朝思夜想，越想越後怕。什麼原因呢？聽說恢復高祖舊典，所以啟發維新；舊典可復可不復，看其是否觸犯當今大法。仰思高祖廢除大鬥，革去長尺，改變重秤，出於愛民之心，所以聽從薄俺。知道軍國必須帛麻日用，故稱在課民幅度之間，覺得百姓應有綿麻之利，所以絹上加稅綿八兩，布上加稅麻十五斤。億萬百姓得到廢大斗、去長尺、改重秤的好處，享受賦稅輕微的利益，僅是不適應綿麻加稅而已，所以百姓歡快地供奉國賦，來來往往勤快地勞作，可信的天子處上，歡樂的百姓在下。所以《易》說：『和悅地驅使百姓，老百姓就會忘記勞苦。』說的就是這種情況。
「從高祖以來，尺度漸變漸長闊，老百姓嗟歎怨憤，朝野共知。臣思在皇太后沒有臨朝聽政之前，陛下您居喪之時，宰相不考慮這件事情的本原，知天下百姓怨憤綿麻之稅，不注意幅廣、度長、秤重、斗大等引起民怨的現象，不革其弊端，存其當存者，而只放鬆綿麻徵調，以此取悅天下人心，這就是所謂取悅百姓不以常道，正是愚臣我不敢樂觀喜悅的原因。尚書既已知國家缺少綿麻，卻不考慮法規的不能輕易更改，百姓言語的可畏，便想除去天下的大信任，放棄已經實行的成詔，臣追思以前的不是，推想後來的過錯，啟奏皇帝請求恢復綿麻徵調，以充當國家度用。不思府庫中大有綿麻，而群官紛紛竊為己有。愚臣認為這於理未盡。什麼原因呢？而今宮中的人請求調給布帛，縫製衣物，必定要考慮其重量尺寸。絹布，一匹布有一尺或一丈多的，而且不包括其寬度；絲綿，一斤或許就多出百銖來，我沒聽說朝廷要依照刑律開罪州郡。假如一匹之濫，一斤之惡，就鞭打戶主，連累三長，這正是教導百姓貪圖小利呀。而今，百官領取俸祿，人們樂於布匹既長且闊，並要既厚且重的綿絲，根本就沒有個限度。得到了長闊厚重的人，便說該州能徵調，絹布既闊且長，那便會美譽橫出，視聽便為其所亂；我還從來沒有聽說過有人怨長惡廣，得到了便設法退回官府的。這就是百官所以辜負陛下聖明的地方。
「今天假如朝廷一定要恢復綿麻的徵調，我建議先讓百姓明白徵收的道理，並立下嚴厲的禁令，恢復布帛本來尺度標準，更新綿麻徵收的標準，依照太和稅法。對於那些在庫的絹布以及絲綿，不符合典章制度的，臣請求派一名尚書與太府卿、左右藏令，按照今天的公家尺寸、公家秤量，計算其斤兩、長寬，折算給請俸的人。總計常俸的數量，千俸所出，以布綿麻，也應其一歲的用度。讓天下百姓明白二聖心思，讓他們明白聖上愛民惜法的程度，那樣的話則高祖之軌中興於神龜，昭明慈愛可信於天下四方，這不是一件值得慶幸的事嗎。誠懇希望聖上理解為臣一片拳拳之心，以便能撫慰天下黎民之意。」
張普惠又上表請求皇上在會朝的日子，時時聽取這方面的情況。從此以後，每月一次。張普惠又因為肅宗不親自臨朝，過於崇奉佛法，郊廟祭祀之類大事，都經常交付有關部門處理，上疏章說：「臣聽說明德之君親赴祭祀，因之成湯享有六百年國運；嚴父配天，所以孔子稱讚周公其人。因為如此，故能馨香上聞，福傳遠世。臣思陛下重暉纂統，欽明文思，天地屬心，百神注目，所以應該厚崇祀祭禮式，全部安排無言之神。但現在告朔政於朝廟，不見陛下親臨明堂；祭祀郊社，總是交付有關部門。而陛下您觀看射獵，優遊園苑，躍馬馳騁，不但危險而且不合常典，哪裡是清道戒嚴的本意？培植不思的身後冥業，損害百姓的巨額供奉。減少官祿，削弱國力，供養身邊無事的僧人；尊崇裝飾雲巍寶殿，遠邀未必有果的所謂報應。被蒙蔽之臣，頓首於外；求務虛之眾，遨遊於內。有失於禮，有忤於時，人神不能安寧靜穆。愚臣以為陛下您朝朝夕夕燒香拜佛，而求熟稔的來世之果，不如以先萬國的愛心，奉養他們的親人，使天下和平安寧，災害不出現。臣誠懇希望陛下謹慎皇帝威儀，以為萬邦表率，虔誠親至郊廟的祭祀，親身駕臨朔望宣政的禮儀，釋奠學校，竭心國事，夙興夜寐，真心祭祀。孝悌之心可以溝通神明，德化教誨可以光照四海，那樣的話，則陛下您一人有喜，萬民歡悅。然後陛下您便可誠奉佛家三寶，歸心佛法如來。禮式深熟，道漸遠大，故可盡堵諸漏；禮積漸多，法義漸明，故可登上彼岸世界。酌情撤除僧廟佛寺不當的排場，還原恢復百官文武久違的公心。已經興建的廟寺，務必從簡施造；準備建構的廟寺，權且下令停止。舊樣可以應付的，不必改作。期望陛下節省用度愛惜人力，僧家百姓都賴於此。微臣學問粗淺，語多胡言，忝居官職，敢憂國事，眼見於此，不敢沉默呀。」書上不久，皇上下詔，讓大臣討論祭祀的禮式。
當時史官預報了日蝕時間，皇帝打算下詔罷朝會。張普惠以逆廢朝不合禮制，上書陳奏。又上表論述時政得失。一是，審查法律制度，平准斗尺量具，稅賦要輕，徭役要省。二是，聽取百姓言論，調查怨憤訴訟，先朝皇帝舊事有不便於今日政體的，全部改正。三是，進舉忠直，退避不肖，任命賢能，義無反顧，去除邪惡，毫不遲疑。四是，興滅國，繼絕世，功臣親故的後代，應該收養敘祿。書上之後，肅宗、靈太后把張普惠叫到宣光殿，逐條詰問，辯論持續了很長時間。二主聲色俱厲地問：「哪有將先皇的詔令一一都翻改過來的道理！」張普惠垂下腦袋，一聲不吭。又說：「看樣子你有話要說，是不是因為左右人多，不肯直言相告。我為你擯退左右，你盡可為我一一道來。」張普惠對答說：「聖人奉養萬物，愛惜它們以致惟恐傷著，況且今天二聖承襲洪業，妻承夫，子承父，夫、父時代不可能出現的情況，而今天安然成為現實，今天母子共執朝政哪裡是先帝傳遞皇緒的本意呢？臣又思先帝在日做事，或是有些部門的錯誤，或是權衡當時所行效果，覺得先輩們的做法在當時行不通的，一律改正過來。而聖上忘記先帝自新更政的做法，在實際中不問是非曲直，對新出現的情況要求，一概壓制不管，這哪裡是蒼生黎民所期望的帝王聖德所該有的做法啊？」太后說：「每逢細枝末節的事情，我們都去一一更改，那不更增加麻煩？」張普惠說：「聖上養育天下萬物，就如慈母養育赤子的道理一樣。而今赤子面臨危淵，將赴水火，而陛下卻因為麻煩勞苦而不救拯，這哪裡是赤子所期望的慈母啊！」太后說：「天下蒼生，真有如此痛苦的事情？」張普惠說：「天下的親好，沒有誰更重於太師彭城王了，然而他仍不免含冤而死。微細之苦，哪能沒有？」太后說：「彭城王之苦，我已封了他的三個兒子，還有什麼可說的！」普惠說：「聖後您封彭城三子，天下之人無不為聖後大德所高興，天下都知萬民慈母在上。微臣所以重揭舊傷，意在提醒聖上凡是像此類冤屈，都請明目鑒察。」太后說：「你說『興滅國，繼絕世』，滅國絕世，指的是誰？」張普惠說：「過去淮南王以叛逆終身，漢文帝仍分封他的四個兒子，這乃是骨肉之親不可忘記，親愛親人的緣故吧。臣竊見已故太尉咸陽王、冀州刺史京兆王，本是皇子皇孫，只因一德虧損，自留悔恨戾乖，沉淪黃泉下土，不在緬懷之列，這哪是復興滅國繼發絕世之意呀？臣請求陛下收葬二王，封其子孫，這是愚臣的心願。」太后說：「你說的有理，朕深知之，應當讓大臣們廣泛發表意見，然後定奪。」
等到任城王元澄死，張普惠出於作為其部屬的禮義，以前又蒙受他的恩待，日夜兼程趕赴王處，至於喪期祭祀，即使寒暑風雨，每次必到。當初，澄嘉賞普惠，臨死，啟奏皇上任其為尚書右丞。靈太后既深追悼任城王澄，看到啟奏，便任命了張普惠。詔書頒布之後，尚書衙眾郎官以普惠出身寒微，不願受他管轄，互相約定，都打算不去尚書衙上班，風波持續多日方才停息。
正光二年(521)，皇帝下詔派楊鈞送蠕蠕主阿那環歸國。張普惠稱遣還蠕蠕主將會留下後患，上疏說：「臣聽說上天以利貞為大，非義則不動；皇王以博施為功，不是同類則不施。所以能啟始萬物而化育天下。臣思陛下聖明睿哲，道比虞舜，四方歸心，天下清安。蠕蠕在北方危害朝廷，妖師在江外起亂皇權，這是貪暴的元兇首惡，他們不識聖王法度，上天要讓他悔過自新，所以讓他們供奉大魏。所以我們要懲罰他，辛苦他，要讓他知道天下大道的可以悅樂。皇上應該安定其民而讓他高興歸服，恭敬自己而讓他心悅誠服。而現在皇上先自辛勞憂擾，為難百姓，興師於國家之內，投蠕蠕主於荒涼塞外，無異於拯救世代的勁敵，真可叫無名興師。諺語說『只有混亂之門才無過可言』，愚臣不知陛下此舉有什麼好處，也許當是讓邊疆將帥立下一時戰功，殊不知兵為凶器，不得已才用到它呀。像白登一戰，漢祖本人也被圍困。樊噲想以十萬人馬橫行匈奴境中，季布認為不行，請斬殺其首。千年之後，人稱遠見。何況今天旱災酷虐異常，聖恩慈厚，許以糧食，而且派一萬五千人的隊伍讓楊鈞為將試圖安定蠕蠕，假如蠕蠕逆時而動，這些人怎能應付得了？阿那環投命皇朝，撫慰他是可以的，哪能容許困窘疲勞我黎民百姓而去資養天喪的敵虜呢。過去莊公容納子糾，導致乾時之敗；魯僖因邾國，而有懸甲冑之恥。今天蠕蠕正亂，後主繼立，雖說人眾散失亡去，然而奸邪不測終難抑制。萬一有當年井陘的危險，楊鈞不就成了可食之肉！斑車、蠕蠕，連年聯兵，饑荒不斷，等其自斃，小亡大傷，然後一舉而並為大魏所有。這是當年卞氏所以一舉而獲兩虎的高謀大略，不可不圖之。現在土山有難相告，簡書相續而來，而朝廷大概也無可奈何，而土山之難正與朝廷今舉相會，這恐怕是蒼天想告訴人們，不讓南北兩疆，同起大軍的意思吧。假如狂妄狡詐之徒從中離間，而引得戰火蜂起，那以什麼讓它平息下來呢？當今宰相專門貪圖蠅頭小名，不考慮國家安危大計，這正是微臣感到十分寒心的事。那環不歸蠕蠕，我大魏背負了哪條信義？處此關鍵的時候，北上之師應當停行。微臣之言，不合大義，只是文書經過臣手，不敢不盡言陳奏。兵事如火，不息將會自焚其身。二胡虜自取滅亡的形跡，正可為殷鑒。臣希望聖上和睦萬國，安靜四疆，那麼，統一海內的日期，就會坐而自至了。臣愚昧魯鈍，語違聖意，必無可采，但臣匹夫之智，不怕見罪，願獻聖上。」表書上奏，詔書答曰：「大凡窮途之鳥，旅歸之人，尚且有人同情，何況那環遭受禍難，顛沛流離，不遠千里，前來依托，訴之人情，許之國理，哪能容許不憐憫他呢。況且接納亡國之主，興盛傾覆之國，有國家之間大義在此，我大魏堂堂皇皇，哪能廢棄此德。後主以亂亡國，應是不假，而今我送彼迎，想來必無戰事。國家大義上已表達，送人之舉，朝議已經決定，而愛卿一片忠心，良苦思慮，朕深表嘉許。但是這次舉動，容我不聽君言，如以後有事，還望愛卿多陳直言。」
當時蕭衍的義州刺史文僧明舉城歸順朝廷，揚州刺史長孫稚派別駕封壽到義州城固守城池，蕭衍部將裴邃、湛僧統領部眾攻逼城池，皇帝下詔讓張普惠為持節、東道行台，攝軍司率軍赴義州援助封壽。他的軍隊剛開始渡淮河，而封壽就已經放棄城池單人獨馬退回了。普惠軍馬只好退兵還朝。蕭衍弟弟的兒子西豐侯蕭正德詐稱投奔朝廷，朝廷積極準備歡迎他，張普惠上書，請求趕赴揚州，移還蕭正德，朝廷沒有同意。沒多久，蕭正德果然逃回去了。涼州刺史石士基、行台元洪超一起因貪污受賄被抓起來了，朝廷任命張普惠為右將軍、涼州刺史，馬上又任命為西行台。張普惠因為生病辭去此任。升光祿大夫，右丞官職照舊。
在這以前，仇池、武興那兒的許多姓氐的部族屢次造反，西部邊疆的防衛將士，他們的糧食供應，久已斷絕。皇帝下詔任命張普惠以本官為持節西道行台，撥給他秦、岐、涇、華、雍、豳、東秦七州兵馬三萬人，聽任張普惠調遣，調南秦、東益兩州兵租，分送各戍守地，他將要統領的各州軍馬，待命於關西牧守之中隨時聽候調遣，軍資板印等必需物件，都隨軍準備。張普惠到了南秦，停遣岐、涇、華、雍、豳、東秦等六州兵馬，只召秦州四千人分配四統；命令送租的兵卒連營結柵，相繼而進，運糧車驢，隨機輸轉。另外派遣中散大夫封答慰勞告喻南秦官民，員外常侍楊公熙慰勞東益州氐民。當時南秦氐族土豪吳富聚集凶暴，攔路打劫。楊公熙到了東益州，刺史魏子建秘密地寫給張普惠一封信，說公熙過去是氐族的後代，這次氐人與他相見，他肯定會在背地裡說些什麼，應加防範。張普惠傳令楊公熙，令他改赴南秦。果然楊公熙已經秘密派他堂兄楊山虎與吳富一起叛逆，又造謠惑眾，煽動鄉里，群氐人聞風而起，托辭說與崔南秦有仇，拒不赴南秦。軍糧到平落，吳富等人果然襲擊糧食大營，這原是楊公熙所安排的。後來吳富雖然被部下所殺，但其黨徒勢力仍很猖狂。秦州所轄的武都、武階，軍糧常能運到，東益州諸氐人先初歸順大魏，所以廣業、仇鳩、河池三城糧草能夠運到。而應該運到東益的十萬擔軍糧，都被這幫人扣留耗費完了，一粒也到不了目的地，鎮戍邊關的將士，於是無糧而食，他們都恨張普惠計謀不高，不能勝任。事情完畢之後，張普惠上表請求追查楊公熙的罪行。普惠還朝，皇帝賜給絹布一百段。
當時，皇帝下詔，尋訪冤屈，張普惠上疏說：
「《詩》稱『文王子孫，繁衍百世』，《易》說『聖君有命，開國承家』。都是說的明德睦親，維城作翰。漢祖封王孫爵位時誓詞說：『願使黃河如帶，太山如石歷，國家永存，福及子孫。』又以丹書之信申之，以白馬之盟強調一遍，高祖以強大子孫為王，罪臣放之惡地，這種情況是有的，臣沒有聽說過父業子構，世代忠賢，或賜死或削職，成為恆常法典的情況。所以尚書令高肇，沒能遠尋古義，近查成旨，憑皇帝初封詔書中有親王食邑二千戶，下傳承蔭第一代一千戶、第二代五百戶、三代三百戶的內容，他說是親疏世減之法；又因其有開國五等爵位，逐漸遞減的內容，以為是世減的趨向。於是便設立等格，奏請奪除，稱這是高祖本意，遂被皇帝認可。當初誤解，一錯再錯。於是便使勳臣親故，懷抱冤屈，陰間陽間的人，同喊冤枉，紛紛聚訟，經年累月，不能停息。
「臣今日研究當初皇帝旨意，深入調查當時情況，發現隨著時間變化，遞減當初封蔭，過去現在，都無根據。又尋詔書，書稱過去沒有採用，今天才有此說，哪能夠混一而論，不分久近呢？所以樂良、樂安，同親異封；廣陽、安豐，屬親有別而分戶相同。安定嫡親，封邑與親王相同；河間近親，改從蔭邑。由此可見當年太和降旨，初封親故的等級，是勳臣親屬都得樹立，而非世減的極好證明。博陵繼承爵位，也在太和之年，當時襲承食邑戶數不見減少，以父曾全食，足戶充本，同於始封，減從今式。像這樣，那就是減少的減少其所足之外的，足者就是在所減範圍之內仍然充足的。減足的意思，指的是所貢所食。這是想使諸王開國，不專其民，故賦役有差別，貴賤有等級。大致按照《周禮》公侯伯子男貢稅之法，王食邑是天子的一半，公爵是其三分之一，侯、伯四分之一，子、男五分之一。所以新興得足充本，清淵吏多減戶。所以初封時承爵襲邑並稱。所減少的減的是貢數，所食指的是食邑，這實是當年高祖皇詔義，減實之理，聖明自釋，求之史書，尚有不明。當時尚書臣..懷疑減足的差別，皇帝又下詔明辨，重申所減本意，可以使人不會對世減本意產生疑義了。而臣肇不查往事，說五等爵中有所減之格，用為世減的辦法；以王封有親疏的等別，說這便是代削封邑的條文，妄解成詔意思，雷同世奪之例。以此流毒天下，老百姓會順從其義嗎？正因如此，所以太傅、任城文宣王元澄數朝輔佐，洞識古今，任尚書之日，殷情奉上，孜孜重義。上書論此，帝詔不許，便只好作罷。
「又律罪例減之法，波及先帝服喪之制，令給親恤，只能當世可以服喪。律令內容相違，威嚴澤恩異品。致使七廟中後代裔孫，不見其治未被憐惜，嫡封子孫就爵祿無窮，旁系便五服之內貶絕殆盡。儀制刑律作為憑證，這讓億兆百姓作何觀瞻。大凡一人嗟歎，尚可稱作有虧治體。而今五等諸王，各稱其冤；七廟之孫，並訴其枉。申訴的案牘，堆滿省中衙內，朝中言語、巷裡議論，都說其苦。這恐怕不是先王所以建樹萬國、親愛諸侯、和睦九族的本義呀。
「微臣位忝今天的職位，到現在已經五年了，推尋當年詔書本意，發現沒有世減的說法。請求聖上近遵高祖減食書誥，遠循百代重賢之文，退黜由九伐之例，進除從九儀之禮，那就會刑罰有倫次，封賞不虛妄。當年文王克己謹慎，連鰥寡之人都不敢怠慢，何況今天聖上面對的是公侯伯子男呢？今天聖詔讓大家訪查冤屈，臣愚蠢地以為這是大冤屈。查找以往賜襲詔書，比較諸項條文格式，所奪所請，事事重審。諸王開國，如不是犯罪而削奪其封的，都求還復其封。那些過去曾經享受全食，足戶充本，減從今天法式的，依照以前則力多於今天聖上親近之人，全部削奪則減足的例式不行，愚臣建議其祿力都應依所足的良邑供給。像這樣則力少蕃王，糧食布帛仍按戶邑雖盈之減，兩秦既有全食足戶的不同，所以他們的也不能與新封爵貴的丁力相同。親親體恤所集，請聖上依律斷決。臣思愛親尊賢，位必依功而立，尊賢是為治民，這能不慎重嗎？以親為親是為了駕馭親族，這可以棄置不管嗎？臣的意見假如被聖上恩准，臣請求就以聖上詔書判下之時為開始，其前來官吏秩祿，如年代久遠，都不追錄了。」
張普惠被朝廷任命為左將軍、東豫州刺史。淮水以南九戍、十三郡，那時還因蕭衍以前留下的禍患，別郡異縣的老百姓混雜居住。張普惠到州於是依次排比，省減郡縣，上書朝廷陳述情況。皇帝下詔同意他的做法。各地長官因此加強管理，治郡有方，奸邪盜賊於是絕跡，老百姓安居樂業。蕭衍派遣部將胡廣侵犯安陽，軍主陳明祖等率軍進逼白沙、鹿城兩地，蕭衍又派定州刺史田超秀、田僧達等偷偷攻陷石頭城戍，逕直據有安陂城。郢州、新塘的敵人，近在離州城西面只有十里的地方。張普惠先後命令將士迎戰，打敗了敵人。
張普惠從不聚斂財物，喜歡引薦後學，待故舊朋友很是寬厚。冀州人侯堅固少年時代與他一起求學，早逝，他的兒子長瑜，張普惠每當領取俸祿，總是分出一部分給他，供其衣食。等到為官豫州，錄用長瑜為官，提供其一門衣食。孝昌元年(525)三月，張普惠死於任上，時年五十八歲。朝廷贈他為平北將軍、幽州刺史，謚稱宣恭。
長子榮俊，武定末(548～550)，在齊王相府任職。榮俊弟龍子，任揚州驃騎府長史。