江夷字茂遠，濟陽考城人。祖父江..，是晉朝的護軍將軍。父親江豈，官至驃騎諮議參軍。
江夷少年時努力學習，是年輕一輩中出眾人才。本州徵用他為主簿，他未應命。桓玄篡位時用他當豫章王文學。義兵奮起時，高祖任他為鎮軍行參軍，不久又當大司馬琅王牙王軍事。因為公事沒處理好，被免職。不久再補任主簿。因為參與討伐桓玄有功，他被封為南郡州陵縣五等候。又當孟昶的建威府司馬、中書侍郎、中軍太尉從事中郎、征西大將軍劉道規的長史、南郡太守。不久又轉任太尉諮議參軍、兼任錄事，遷任長史，進宮當侍中、大司馬，隨從劉裕北伐。江夷拜謁洛陽的晉朝皇陵，進軍到潼關。回來又兼寧遠將軍、琅王牙的內史、本州的大中正。高祖委託他管理大司馬府和琅王牙國的大小事務。
宋國府台機構剛設立，江夷當五兵尚書。高祖稱帝，轉任掌度支，又出外當義興太守，加俸祿到二千石，因病離職。不久拜任吏部尚書，當吳郡太守。營陽王在吳縣被殺，江夷親臨哭泣，很符合禮節。又因為兄長病了，離職。後又再當丹陽尹、吏部尚書，加官散騎常侍，遷任右僕射。江夷外表美麗，舉動灑脫，在歷屆任職中，以和平簡潔著稱。再出為湘州刺史，加官散騎常侍，未到任，便病死了，享年四十八歲。他留下遺言讓簡單安葬，祭祀用蔬菜，必須節儉樸素。被追認為前將軍，原來官職照舊。他的兒子江湛，另外有傳記。