江革字休映，濟陽考城人。祖父江齊之，在宋朝作都水使者，尚書金部郎。父親江柔之，在齊朝作尚書倉部郎，品性孝順，因為喪母哀傷過度而死。
江革從小聰明靈敏，很早就有才氣，六歲就會寫文章，柔之對他倍加賞識器重，說：「這孩子必定會振興我的門第。」九歲時父親去世，他和四弟江觀同母所生，從小喪父貧寒，沒有師友可以依傍，兄弟二人互相督導勉勵，讀書孜孜不倦。十六歲時喪母，以侍奉母親孝敬聞名。喪服期滿，和江觀一起赴太學，被補缺為國子生，取得優良成績。齊朝中書郎王融、吏部郎謝月兆都對他很欽佩推重。謝月兆曾有一次在宮中值班後回家路上登門看望江革，當時下雪天氣嚴寒，他看到江革鋪一條破褥子和一條單席，卻沉緬於讀書不知疲倦，感歎不已，於是脫下自己身上的短襖給他，又把自己的坐氈割下一半送給他當坐墊才回去。司徒竟陵王蕭子良聽到他的名聲，招攬他為西邸學士。
年二十被舉為南徐州秀才，當時豫章胡諧之兼管南徐州，王融給胡諧之寫信，讓他舉薦江革。諧之正要薦舉琅笽王凡，接信便用江革代替了他。僕射江石很熱情地接待他，江石任太子詹事，奏請委任江革為府丞。江石當時權傾百官，認為江革有治國之才，讓他參與機要，朝廷的詔令文誥等都委任他撰寫。江革小心謹慎，不露出與江石關係的行跡，所以外人不知道。等江石被殺，門下賓客都被牽連治罪，只有江革因為機敏得以倖免。後任尚書駕部郎。
中興元年(501)，梁武帝兵入石頭城，當時吳興太守袁昂佔據吳興抗拒武帝不肯服從，江革奉命給袁昂寫信，領命後隨即在座位上就寫成了，文辭典雅，武帝看了深表賞識讚歎，令他和徐勉共同掌書記。建安王作雍州刺史，上表要求派一名管記，委任江革為征北記室參軍，兼任中廬縣令。江革和他弟弟江觀從小到大生活在一起，不捨得分別，就苦苦要求一塊兒去。於是又委任江觀為征北行參軍，兼任記室。當時吳興沈約、樂安任日方給江革的書信中說：「近聞雍州太守選任英才，把掌管文書的職務，委任了你們兄弟，可以說是駕二龍長途奔騰，馳駿馬千里飛躍啊。」途中在江夏停留時，江觀去世。江革在雍州，受到刺史建安王的禮遇，關係如同尋常百姓之間一樣融洽。
後來作為建康府正，屢任秣陵、建康令，為政嚴明，豪強畏懼。歷任中書舍人，尚書左丞，晉安王長史兼尋陽太守，並兼管江州府。又改任廬陵王長史，太守、行事官職不變。江革以辦事清廉嚴明而被其轄區內人所懼怕，當時年輕的諸王做什麼事，都要聽簽帥的意思，江革自恃正直，不與典簽趙道智來往，道智趁回京奏事之機，向朝廷當面報告說江革好酒誤事，於是朝廷派琅王牙王曇聰代理他的職務。江州一帶的官吏百姓們造出口號說：「故人不道智，新人佞散騎，莫知度不度，新人不如故。」江革又改任御史中丞，彈劾豪強權貴，無所避諱。
後來又作鎮北豫章王蕭綜長史、廣陵太守。當時北魏徐州刺史元法僧歸附梁朝，江革被命令隨蕭綜鎮守彭城。後來彭城失守，江革不善騎馬，坐船逃回去，途中經過下邳，被魏人抓住。魏徐州刺史安豐王元延明聽說他的才名，對他招待很優厚。江革借口腿腳有毛病不行跪拜禮，延明要殺他，但看到他義正辭嚴，對他更加敬重。當時祖日恆也被俘獲，延明讓祖日恆為他作了《欹器漏刻銘》，江革唾罵祖日恆說：「你受國家大恩，已經無法報答了，卻又為敵寇作銘，太辜負朝廷。」延明聽說了，就命令江革作《丈八寺碑》和《祭彭祖文》，江革推辭說被拘押時間長了，沒有心思寫東西。延明要對他用刑，江革臉色嚴正地說：「江革活到六十歲了，不能殺身報主，今日能死就是幸運，誓不為人執筆。」延明知道不能壓服他便住了手。每天供給他粗米三升，僅夠保住性命。碰上魏宣武帝要求梁朝放還被俘的中山王元略，於是也放江革和祖日恆還朝。梁武帝舉行盛大宴會，舉杯給江革敬酒說：「你怎麼不怕元延明殺你呢？」江革回答說：「臣已經活到六十歲了，死了不算短命，怎能怕延明呢。」武帝歎道：「今天才算見到蘇武的氣節。」於是委任他為太尉臨川王府長史。
當時武帝沉迷於佛教，朝內賢達也多奏請要求出家。江革本篤信因果，而武帝不知道，便寫了一篇五百字的《覺意經》賜他，上面寫道：「惟有勤進取，自強把身修，佛豈能頂撞，如此必死囚。以此告江革，並及諸貴游。」又手批說：「因果報應不可不信，對佛怎能像對元延明那樣頂撞呢。」江革因此請求受菩薩戒。
當時武陵王蕭紀在東部州郡，很驕橫放縱，武帝因為蕭紀的副手臧盾性情懦弱，不能匡正蕭紀，便召來江革，撫慰後派他前往，委任他為武陵王長史、會稽郡丞，行府州事。江革的弟子及舊日下屬家大多在東郡，聽說江革馬上要到，都帶著禮物夾道迎接。江革說：「我一概不接收饋贈，不能因為是老熟人就收下來。」到任後吩咐領取鮑家俸祿，吃飯不超過兩個菜。會稽郡境內富庶，人口眾多，每天打官司的狀子就有好幾百，江革分析判斷明白無誤，從來不曾含糊誤事。於是人民安定，官吏敬畏，境內大小城邑都感到震懾。琅笽王騫作山陰縣令，因貪贓名聲狼藉，看到這種形勢便自動收斂。武陵王蕭紀也對他有些懼怕。江革每次侍奉蕭紀飲宴，言談必引《詩》、《書》，蕭紀也因此潛心讀書而喜愛詩文。典簽沈熾文把蕭紀寫的詩呈獻給武帝看，武帝對僕射徐勉說：「江革果然稱職。」於是委任他作都官尚書。等要回京時，對所贈送禮品一概不收。按以往慣例，送卸任官員的船費要向民間攤派，江革也不收取，只坐朝廷供給的一條小船，而船傾斜有毛病，沒法坐臥，有人說過江應該搬些重物壓住輕船以免危險，而江革沒什麼家當，就在西陵岸邊撿了十幾塊石頭裝上。他就是如此清貧。
不久監察吳郡，當時吳郡荒年歉收，劫盜橫行，江革到此只帶有朝廷配給的二十名衛士，百姓們都怕難以平定寇盜，而江革反而撤銷當地維護治安的遊軍將吏，百姓更加擔心。江革廣施恩惠，盜賊於是自然平定。
武陵王出京鎮守江州，對人說：「我得江革後，文章華美清麗有長進，又得江革清貧自守，為官吏作則，這讓我一天也難以忘懷，應該與他有福同享。」於是上表奏請帶江革同行。江革被委任南中郎長史、尋陽太守。後又徵調入朝為度支尚書。江革喜歡栽培出身民間的有才幹的人，愛給青年人傳播名聲，因此不少讀書人都聚集在他的門下。當時尚書令何敬容執掌選吏，所任用的人很多都不合適。江革性格倔強剛直，每次朝宴時常要對這些人進行褒貶，因此被權貴們所討厭。於是告病遍家。改任光祿大夫，優遊閒散，作文飲酒來自娛。後去世，謚為「瞗子」。有文集二十卷流傳於世。江革歷任八府長史，四王行事，三次作郡太守，而身邊沒有姬妾侍女，家徒四壁，因此而受到當世人的讚譽。