江總字總持，濟陽考城人。是晉朝散騎常侍江統的十世孫。其五世祖江湛，為宋朝左光祿大夫、開府儀同三司，封爵號忠簡公。祖父江..，為梁朝光祿大夫，稱名當代。父親江不，為本州迎主簿，年少時父親去世，因傷心過度而死，事在《梁書孝行傳》。
江總七歲喪父，寄依外祖家。年少時聰明敏捷，性情純厚。其舅舅吳平光侯蕭勱，在當時名望很高，特別鍾愛他，曾對江總說：「你節操品行與眾不同，神態舉止超群出眾，將來出名，必當超過我。」江總長大後，勤奮篤學才思敏捷，他家世代相傳的書數千卷，江總日夜探究研讀，未曾離手。十八歲時，江總初任宣惠武陵王府法曹參軍。中權將軍、丹陽尹何敬容建府置僚屬，設置佐吏，都以顯貴的後代擔任，江總又授職為敬容府主簿。不久調任尚書殿中郎。梁武帝撰寫《正言》才畢，又寫《述懷詩》，江總參與寫此詩，梁武帝讀完江總的詩後，大為歎賞。又調任侍郎。尚書僕射范陽張纘，度支尚書琅邪王筠，都官尚書南陽劉之遴，都才學淵博，因江總年少時出名，張纘等人很是推重，結為忘年之交。劉之遴曾以詩文相贈江總，詩的大意是：「顯貴住居崇禮寺，寺院和我棲息的官署相鄰。討厭聽到喝道者的吆喝聲，總是擔心太陽已上三竿。我們在一起高談闊論興致無窮，設問作答歡愉無邊。從官署請假來與你一同遨遊，在例假之日因貪樂忘了退食之規。又何須為了免除我囊中羞澀，委屈自己挪步去那官署看長官們的臉色。上下幾千年縱橫論談，品評王侯將相說出了我心中想說的一切。」可見他被學識淵博之人如此欽佩推崇。調任太子洗馬，又出京任臨安縣令，再回京任中軍宣城王府內錄事參軍，調任太子舍人。
梁朝和西魏友好往來，梁武帝詔命江總和徐陵居官出使西魏，江總生病沒有前去。侯景寇掠京城，梁武帝詔命江總暫兼太常卿，堅守陳書小廟。台城陷落後，江總在外境維艱中逃難，費了幾年時間才到會稽郡，住到龍華寺，便寫了《修心賦》，大略評品時事。其賦為：
太清四年(550)秋七月，我因避侯景之亂移住會稽龍華寺。此寺院，是我的六世祖宋朝尚書右僕射州陵侯元嘉二十四年(447)所建。州陵侯的祖父是晉朝護軍將軍江錋，他從前來到此地，占卜後擇居山陰都陽裡，有子子孫孫自始至終定居此地的願望。寺院的範圍是房子的舊牆基，寺院左臨江右瀕湖，面對著山背倚著溝壑，東西相連，南北連綿，州陵侯和苦節名僧一起，同度日月，白天修治經書戒律，晚上閱覽群書，休憩於風雲之中，憑眺於映月池邊。不料華戎不分，朝廷傾淪，因此內心感傷，其情可以想見。淚墨交流，豈能舒緩我的鬱結之心。希望後代子孫，憐珍我的心意。
讚美吳楚大地，開啟東越之靈氣，記載《檜風》於《詩經》，載錄職官制度於《周禮》，收藏大禹用金泥所飾之書，鐫刻收藏秦代的石刻文字，太史公來此探穴尋禹跡，鍾離離開此地後開始發奮讀書，信服竹簡的價值珍貴，貶斥..王夫的價值連城之說。繼奉盛德之大業，寄居安禪古寺，這豫章的舊園林，成為黃金勝地。順遂我寂寞的幽靜之心，好比往鏡中遠尋可望而不可及，面對遙遠飄忽的高山，臨近深遠的平湖。山脈連綿立聳，落葉沉入水中，早上看吊臂的猿猴從樹上跳下，晚上聽飢餓的鼯鼠哀吟。果樹叢生藥草滿苑，桃林橘林，枝繁葉茂，遮雲蓋日。保持自然天真的雅趣，鄙棄人世間的荒誕雜亂，遙望輪廓迂曲的島嶼，面對匯合眾流的大江，泛舟於深夜的月光下，散步於清晨光煙繚繞之中。清風引動蟬的鳴叫，驟雨頻落於林中，發出蕭颯之聲，群鳥小戲後知道回巢，流雲無意卻能自然聚合。
當年在荒野之地建起靈塔，就地築起禪房，高興的是林園開闊，樹木繁茂。行走於草地之上，坐禪於河渠之旁，堅守戒律雲遊四方，長年甘於素食，堅固之林可見其邊，寂滅之場霎然悟及。此境異於曲終所產生的悲壯氣氛，也不是葉落而生的悲涼情境，豈是降志辱身，靠不自露才華來顯揚自己。正當風雨如晦之亂州，厭倦於雞鳴的嘈雜之聲，希望避開塵世而高臥，聆聽往古高士的遺訓。折服於四辯的微言大義，領悟三乘的玄妙之理，排遣十纏的繫縛，祛除五惑的塵滓，長久地拋棄榮華富貴，不再追逐勢利，但願忘懷於妻子兒女，把意氣用事留給過去，寄望於來年能洞悉稀聲大音，憐惜遠方遊客的悲涼處境，也知道自憐於悟道的無邊無已。
江總的第九個舅舅蕭勃首先佔領廣州，他又從會稽去投依蕭勃。梁元帝平定侯景之亂後，詔命江總任明威將軍、始興內史，給江總八百斛太守薪俸讓他出行。恰逢江陵陷落，江總遂不成行，從此寄居嶺南多年。天嘉四年(563)，詔命任中書侍郎回朝廷，管轄侍中省。江總歷任司徒右長史，掌東宮管記，給事黃門侍郎，兼南徐州大中正。又授職太子中庶子、通直散騎常侍，東宮、中正職務不變。不久調任左民尚書，後轉任太子詹事，中正職務不變。江總因與太子徹夜暢飲，收養良家女子陳氏為女，太子便裝去江總住所，皇上怒而免除其職。不久復任侍中，兼左驍騎將軍。再任左民尚書，兼左軍將軍，未授職，又因公事免職。不久任散騎常侍、明烈將軍、司徒左長史，調任太常卿。
後主繼位後，授職江總任祠部尚書，又領左驍騎將軍、參掌選事。又轉任散騎常侍、吏部尚書。再調任尚書僕射，參掌選事職務不變。至德四年(586)，江總加任宣惠將軍，量置佐史。不久授官尚書令，賜給鼓吹一部，加扶，其他官職未變。後主為江總作策說：「嗚呼，尚書省柄政之基石，司會掌管財政經濟，韋彪稱它們為朝廷之樞機，李固比之為北斗與北極。況且五曹綜理，百官協合，同領塚宰之責，專擅台閣之職。惟爾學藝傑出，胸懷寬廣，品德高尚，士大夫以為楷模，文人志士，士人君子以為典範，所以能總管六官。你學問淵博，為眾人所仰望，官府八座，足為後世楷模，由你端正朝綱掌握準則，正是朕所希望的。今後你要努力啊，勉力建立美善之道，幫助我治理好國家，可要千萬慎重啊！」禎明二年(588)，晉號中權將軍。京城陷落後，江總入隋朝，任上開府。隋開皇十四年(594)死於江都，時年七十六歲。
江總曾為自己作敘，其大意為：
我歷任顯達之職，只是徒佔其位而已，既不追求實利，也不涉足權勢。我曾撫身仰天歎息說，莊青翟官至丞相，無事跡可紀；趙元叔只是任掌計簿的小吏，卻光耀列傳。我自從在陳朝任職以來，未曾奉承任何人，干預任何事。風塵歲月，身處世俗之人中，多招致怨憎，宦海浮沉，都不放在心上。太建之時，國家權力被下移至眾多宵小之手，諂媚嫉妒之風盛行，我屢被排斥罷免，面對命運無可奈何。後主過去在東宮，留心文章的風采，我一向承蒙開導，恩重如山，情深似海。後主繼位之日，時常指責我的過錯，仰遵天文，改定各種事功，八法六典之制度，無一不親自統管。昔晉武帝為荀公曾作策說：「周代陳書的塚宰，今日之尚書令。」何況我的才能不及古人一半，而居位食祿不理政事則同於古人。晉太尉陸玩說：「讓我做三公，可知天下實在無人。」官位爵祿本是無意得來之物，哪裡是我刻意要追求的呢？
少年時潛心於佛教，二十多歲時，到鍾山從靈曜寺則法師學佛法。晚年在陳朝任官，與攝山布上人交往，徹悟佛教苦空二境，再次詳習戒律，對自己維持一顆善心，對別人廣施慈悲，頗知自我勉勵，然而不願食素，並且浸染塵世之煩勞，因此抱愧終生。
江總的自敘，當時人稱之為實錄。
江總一向行義，性情溫和寬厚。好學，善於寫文章，尤其擅長寫五言七言詩；因他潛心於文章的文采，故得後主的寵愛。他有些小詩之類，為好事者相互傳送誦讀玩賞，至今流傳。後主之世，江總任宰相，他不理政務，只是每天和後主在後宮飲酒作樂，還加上陳暄、孔范、王瑗等十餘人，當時稱他們為狎玩之客。因此國家日益衰敗，典章制度不健全，有上言者，就以犯罪論處，君臣昏庸腐敗，以至於國家滅亡。江總著有三十卷詩文集子，都流行於世。