張率字士簡，性格寬厚文雅。十二歲能寫文章，常常每天規定寫詩一篇，有時幾天不作，就加以追補，逐漸進而寫作賦頌，到了十六歲，過去的作品已有兩千餘首。有個叫虞訥的見了以後加以詆毀，於是張率有一天把它們全部燒燬，重新作了一首詩拿給他看，托名是沈約所作。虞訥於是句句稱讚，無字不佳。張率說：「這是我的作品。」虞訥慚愧地退走了。
當時陸少玄家裡有他父親的書一萬多卷，張率與陸少玄要好，於是互通書籍，全部讀完了他家的書。
齊朝建武三年(496)，舉為秀才，任命為太子舍人，和同郡的陸翱、陸厥幼年的時候互相親暱友好。曾經同車到左衛將軍沈約那裡去，遇到任窗也在那裡。沈對任說：「這兩位少年是後進秀才，都是南國的金子，您可以認識一下。」由此與任窗成了朋友。
梁朝天監年間(502～519)，擔任司徒謝紻的屬官，在文德待詔省值勤，詔令讓他抄錄乙部書，又讓他撰寫古代婦女的故事。讓擅長書法的琅笽人王琛、吳郡人范懷約等抄寫給後宮。張率請假東歸，談論者認為他是傲世，張率很害怕，於是寫了一篇《待詔賦》上奏，很受讚賞。皇上手詔答覆說：「司馬相如精細而不敏捷，枚皋迅捷而不精美，卿可以說是在金馬門兼具了二人的優長。」又曾經參加皇上的宴會作詩，武帝單獨賜張率一首詩說：「東南有才子，故能服官政，余雖慚古昔，得人今為盛。」張率奏詩往返六首。後來武帝在玉衡殿召見他，對他說：「卿在東南很有聲望，朕很早就聽說。您說宰相應該是誰，不從天上掉下來，不從地下冒出來，卿是名家奇才，如果又肯留心禮法律令，便是這種人選。秘書丞是天下最清雅的官，東南有名望的世族還沒有人擔任過，今天把它授給您，為卿立定名譽。」很快就任命他做了秘書丞，掌管集書詔策。
天監四年的一天，在華光殿禊飲，這天河南國獻了一匹赤龍駒，能伏拜，善跳舞，詔令張率和到溉、周興嗣作賦，武帝以張率和周興嗣的作品為優秀。
這一年，張率因為父親去世而離職。他父親在世時的藝妓有幾十人，其中善唱的一個非常漂亮，同鄉的儀曹郎顧王光之前來求婚，歌女不同意，於是出家為尼。她曾因為齋醮在張率的家裡相會，顧王光之便寫匿名信說她與張率奸婬。南司把這事報告了皇帝，武帝愛惜他的才能，壓下了這件事，但是仍然引起了當時的議論。服喪期滿，很長時間沒有任職。
天監七年(508)，任命為中權建安王記室參軍，不久在壽光省值勤，負責修丙、丁部書抄。逐步調任晉安王宣惠咨議參軍。張率在府中十年，恩情禮遇很寬厚。後來做揚州別駕。張率雖然歷任多種職務，卻不曾留心簿籍。到了做別駕時有事上奏，武帝看了奏章提出問題，他都不能對答，只是說：「情況都在奏章中。」武帝很不高興。後來又做了黃門侍郎。出京擔任新安太守，遭到了生母的喪事而去世。
張率酷愛喝酒，不愛管事，對於家務尤其不在意。在新安他曾經派家僮載米三千石回家，等運到家便損耗了一大半。張率詢問原因，回答說：「雀鼠損耗。」張率笑著說：「好雄壯的雀鼠！」終於也沒再追問。他從幼年寫文章，《七略》和《藝文志》所載的詩賦，今天遺失原文的，都進行了補作。他所著的《文衡》十五卷、文集四十卷流行在世間。