張邵字茂宗，是會稽太守張裕的弟弟。最初張邵當晉朝琅王牙內史王誕的龍驤府功曹。桓玄把王誕轉任到廣州，親朋故友都離開了他，只有張邵緊緊追隨，流著眼淚送別。當時又是戰亂又是饑荒，張邵又給王誕的妻子送糧送衣。
桓玄篡位稱帝，張邵的父親張敞以前當尚書，因為回答桓玄提問有點錯誤，被降為廷尉卿。到武帝討伐桓玄，張邵勸張敞向劉裕表示忠心。武帝非常高興，叫人在張家門邊寫上命令：「有犯張廷尉的，以軍法處置。」後又用張敞為吳郡太守。王謐當揚州刺史，選張邵當主簿。劉毅的官職僅次於劉裕，又愛結交人才，喜好名士，當世名流無不到門下拜訪，只有張邵不去。有人問他為什麼這樣，他答道：「我們的主公劉裕是改造國家的偉人，何必多問呢？」劉穆之把這事告訴劉裕，高祖更加信任他，轉他為太尉參軍，兼任長流賊曹。盧循襲擊京城，高祖叫張邵守衛南城，當時百姓到河邊觀望敵人的態勢，武帝很奇怪，便問張邵，張邵說：「如果殿下沒有從南燕回來，百姓怎麼敢觀望，今天他們再也不會害怕敵人了。」不久張邵補任州主簿。
張邵一心撲在工作上，精力過人，到武帝殺劉藩時，張邵當時在西州值夜班，當晚他便通告手下官員說；「大軍要大規模討伐，你們各位應該修理好船舶和倉庫，到明日清晨辦好。」第二天天亮，武帝叫來各省的主簿參軍，一下便都到了，很是驚異，問他們為什麼來得這麼快，那些人回答說：「這是昨夜張主簿叫我們準備好的。」武帝說：「張邵可以說和我同憂共患。」義熙九年(413)，劉裕的世子開始建立征虜府，補任張邵為錄事參軍，轉任中軍將軍，又遷任諮議參軍，兼領記室的職務。
十二年(416)，武帝北伐，張邵請見武帝說：「人生是很危險而脆弱的，所以應該想遠一點，劉穆之如果發生意外，誰能代替他？主公功業到如此地步，如果劉穆之死了的話，事情將會怎麼樣呢？」武帝說：「這自然要劉穆之和你來處理了。」青州刺史檀祗鎮守廣陵，當時滁縣中有一些亡命之徒彙集，檀祗率兵襲擊，劉穆之恐怕因此惹出麻煩，準備派出軍隊。張邵說：「檀韶佔據中游，檀道濟為北伐先鋒，如果懷疑心暴露出來，恐怕會招致意外，應該先派人慰勞檀祗，觀察檀祗的真意。」不久檀祗果然沒有妄動。劉穆之去世時，朝中人心浮動，朝臣們都想下詔用司馬徐羨之代替劉穆之。張邵說：「朝廷和大府中的事，都請教徐羨之，其餘應該向北(劉裕在北)請示然後再定奪。」武帝很讚賞他臨事不亂，得大臣體統的風度。十四年(418)，武帝想用世子鎮守荊州，張邵進諫說：「世子是非同一般的，全國人都看著他，所以不應該處在外藩，我這裡要以我的老命請求不要作這個任命。」武帝採納了這個建議。
文帝當中郎將、荊州刺史時，用張邵當司馬，兼任南郡相，府中大小事都由張邵決定。武帝稱帝，張邵因是開國大功臣，被封為臨沮伯。又分出荊州一部分，設立湘州，以張邵為刺史。並將設立軍府，張邵認為長沙是內地，不是用兵的地方，設立軍府會妨礙政事，不利朝廷。武帝聽從他的意見。謝晦造反，派人送信給張邵，張邵沒有拆信，直接派人上交武帝。
元嘉五年(428)，張邵轉任征虜將軍，兼任寧蠻校尉、雍州刺史，加官都督。當初王華和張邵有點間隙，到王華成了朝廷顯要人物時，張邵的親戚朋友為他擔心。張邵說：「王子陵(王華字)公正寬容，必然不會因私仇妨礙正經事。」這次雍州刺史的任命，實際正是王華提議的。張邵到襄陽後，建立長長的圍岸，修理堤壩塘堰，增加墾田幾千頃，本郡百姓因此而變得富足。丹江、淅川二江蠻人多次侵略，張邵誘引蠻人首領，趁大會時殺了他們，並且襲擊蠻人部落。張邵既然欺騙了蠻人部落，蠻人到處造反，水陸兩路都被截斷。他的兒子張敷到襄陽看他，準備回京，蠻子們想乘機抓住張敷。恰遇蠕蠕國派使者朝貢，蠻人以為是張敷，於是抓住了使者，張邵因此事被降為揚烈將軍。
江夏王劉義恭鎮守江陵，以張邵為撫軍長史、持節、南蠻校尉。因為張邵在雍州貪污聚斂，贓款共二百四十萬，張邵被抓到廷尉，免除一切官職，削去封爵和食邑。後來又當吳郡太守，在任上去世，死後被恢復封爵，並被謚為簡伯。張邵臨終之際，遺囑叫用菜果祭祀他，用葦席為靈車。他的兒子們按他的要求做了。他的三個兒子張敷、張演、張敬都是當時名人。