任窗字彥升，樂安博昌人。父親任遙，齊朝時為中散大夫。身長七尺五寸。很小時就極好學，很早就出了名。宋丹陽尹劉秉征辟他為主簿。當時任窗十六歲，賭氣得罪了劉秉的兒子。過了很久，為奉朝請，推舉為兗州秀才，拜授太常博士，提升為征北行參軍。
永明初年，衛將軍王儉任丹陽尹，又引任窗為主簿。王儉特別欽佩、重用任窗，認為當時無人可同任窗並論。提升司徒刑獄參軍事，進京任尚書殿中郎，調任司徒竟陵王記室參軍，因父親去世離職。特別孝順，守喪時居行按禮行事。三年滿後，母親又去世，時常住在墓旁的草廬裡，哭泣的地方連草都不生。服喪完畢拜為太子步兵校尉、管東宮書記。
當初，齊明帝廢鬱林王，將出任侍中、中書監、驃騎大將軍、開府儀同三司、揚州刺史、錄尚書事，封為宣城郡公，增兵五千，讓任窗撰寫奏文。明帝怪他的奏文中有微詞，很氣憤。因此任窗在建武年間，職位始終不過列校而已。
任窗很會寫文章，尤其擅長寫記敘文，才華橫溢，當時王公的上書奏文，多請他寫。任窗下筆即成，不用修改。沈約堪稱一代詞宗，也很推崇他。明帝死後，遷中書郎。永元末年，任司徒右長史。梁高祖攻克京都，幕府剛建立，讓任窗擔任驃騎記室參軍。最初高祖和任窗曾在竟陵王西邸相遇，隨便對任窗說：「我當了三公，就任你作記室。」任窗也和高祖開玩笑說：「我若當了三公，就任你做騎兵。」意思是說高祖很會騎射。到現在，所以應過去的話讓任窗為記室。
梁台建立，祭天地的文誥，多由任窗寫。高祖即帝位後，拜任窗為黃門侍郎，遷吏部郎中，不久又以原職兼管著作事務。
天監二年(503)，出任義興太守。在任期間清正廉潔，妻室兒女只吃粗米飯。彭城的好友到溉及其弟到洽，與任窗一起遊歷山水。離任上船時只有五斛米。到任沒有衣服，鎮軍將軍沈約派人帶著衣服去迎接他。又任吏部郎中，參掌大選，居官不稱職。不久換任御史中丞、秘書監、領前軍將軍。自齊朝永元以來，秘閣四部圖書篇目卷次雜亂，任窗親自校訂，於是篇目排定。六年(507)春，出任寧朔將軍、新安太守。在郡期間不注意衣著打扮，獨自一人拄著枴杖，步行到城鎮村舍，民間有是非官司，隨即就地裁決。為政清明節省，官民都感到很便利。一年後死在任職上，終年四十九歲。全郡人都十分痛惜，老百姓在城南為他立祠堂。高祖知道後，當天舉哀，哭得很傷心。
任窗喜好交結朋友，獎勵、進薦學士友人，得到他的稱譽的人大多陞遷了，所以官宦及其子弟都爭著與他交往，家中賓客不下數十人。當時的人很仰慕他，稱為任君，意思是說他像漢朝的三君一樣。陳郡的殷芸給建安太守到溉寫信道：「哲人死去，儀表謝世。楷模現在哪裡？誰來指引方向？」士友推崇他到了如此高度。任窗不治家業，以至於沒有居住的房屋，有人笑他乞討租借財物，還時常散發給親友。任窗經常感歎說：「知道我的人認為我是叔則，不知道我的人也認為我是叔則。」任窗對書籍典章無所不讀，家雖貧窮，藏書卻有上萬卷，善本異本書很多。任窗死後，高祖派學士賀縱同沈約一起校勘他的書目，官家沒有的書，就拿任窗家的書補充。任窗所寫的文章幾十萬字，流傳於世。