張輔字世偉，南陽西鄂縣人，漢朝河間相張衡的後代，年少時便有才幹，與從母弟劉喬一樣有名聲。
當初張輔補藍田縣令，在任上不為當地豪強所屈。當時強弩將軍龐宗，是西州的大族，他的護軍趙浚，是龐宗夫人的本家，因此他放縱僮僕橫行霸道，是當地百姓的一大禍患。張輔按法律嚴厲制裁，殺了兩個惡奴，又沒收了龐宗的二百多頃田地分給貧窮之家，一縣人都稱讚他。又轉任山陽縣令，太尉陳准家中的僮僕也凶暴橫行，張輔依然殺了作惡的家僕。累遷尚書郎，封為宜昌亭侯。
轉為御史中丞。當時積弩將軍孟觀和明威將軍郝彥不和，孟觀借軍中之事陷害郝彥，又有賈謐、潘岳、石崇等結幫相互吹捧、相互提攜，還有義陽王司馬威有欺詐假冒的事，張輔一一追究彈劾他們。梁州刺史楊欣姐姐新喪，不滿十天，車騎長史韓預強行聘娶他姐姐的女兒為妻。張輔為中正，貶了韓預的官以清正風俗，輿論給予了讚揚。到孫秀執政時，司馬威誣告張輔，孫秀被迷惑而輕信，準備按刑律懲治張輔。張輔給孫秀寫信說：「我張輔只知道仰慕古人，當官辦事，不知道稍稍為自己考慮一下。現在義陽王司馬威就算是能寬宏大量，不和我計較，然而我母親已高齡七十六了，也時常為我擔驚受怕，怕我總有一天會因積怨而遭來災禍。願明公留神審查我任官前後的行事，只不過是一個忠於朝廷的愚臣而已。」孫秀雖一貫凶狠狡詐，也知張輔平素忠貞正直，是被司馬威陷害誣告，就不再追究了。
後來遷為馮翊太守，這時長沙王司馬砬看到河間王司馬..專權橫行於關中，有圖謀不軌的跡象，就將此告訴了惠帝，惠帝密詔雍州刺史劉沈、秦州刺史皇甫重討伐司馬..。於是劉沈、皇甫重與司馬..戰於長安，張輔遂帶兵援救司馬..，劉沈等被打敗。司馬..感謝張輔的援救之情，就讓他代替皇甫重擔任了秦州刺史。當時援救司馬..時，金城太守游楷也有戰功，轉為梁州刺史，他沒有到任。游楷聽說張輔回返原地，幾次去迎接，想找機會除掉他。游楷殺了天水太守封尚，想逞霸於西疆。游楷召隴西太守韓稚一起商議，未有結果。韓稚之子韓樸勇武強悍，當場殺了有不同意見的人，接著召集軍隊攻打張輔。張輔與韓稚戰於遮多谷口，張輔軍被打敗，張輔被天水故帳下督富整所殺。
當初，張輔曾著文論道：「管仲比不上鮑叔，鮑叔知道奉什麼主，投什麼國。管仲奉主得不到事業成功，所投奔的又是無作為之國，富貴後娶三姓之女，而又像君王一樣行反土佔之禮，這些鮑叔都不會幹。」又議論班固、司馬遷說：「司馬遷的著作，文辭簡約而事理清晰，敘三千年事只用五十萬言；而班固敘兩百年事卻用了八十萬言。繁簡不同，這是班固比不上司馬遷的第一點。良史記事，對善行應加以獎勸鼓勵，對惡行要進行指斥監誡，這是極普通的道理。一些中等人物的微小之事，司馬遷不予記載，而班固都記了下來，這是比不上司馬遷的第二點。文中詆毀貶低晁錯，有傷忠臣之道，這是比不上司馬遷的第三點。司馬遷是首創，班固是因循，其難易各不相同。司馬遷為蘇秦、張儀、范睢、蔡澤作傳，辭采華麗流暢，也足以表現出了他的文才。故記辯士則辭藻華美，敘實錄則準確簡煉，所以司馬遷稱得上是優秀的史學家。」又評論魏武帝不及劉備，樂毅低於諸葛亮，其文章多不見記載。