臧質字含文，東莞郡莒縣人。他父親臧熹字義和，是武敬皇后(劉裕妻)的弟弟。臧熹和他哥哥臧燾都喜歡讀經書。晉朝隆安初年，戰爭不斷，臧熹於是學習騎馬射箭的技術，希望建立一番功業。一次到溧陽縣，縣令阮崇和臧熹一起去打獵，恰遇老虎衝出獵圈，其他人都紛紛逃跑，臧熹卻奔上去射了一箭，箭一射出老虎便倒地不動了。宋高祖劉裕打進京口城，臧熹的族弟臧穆殺掉桓修。高祖進軍建康，桓玄倉惶出逃，劉裕指派臧熹到皇宮接受圖書和各種器物，看管皇宮的財產。其中有一件黃金裝潢的樂器，劉裕向臧熹說：「你也許想得到這東西吧？」臧熹嚴肅地說：「皇上被軟禁和逼迫，流落於四方，將軍最先勤王，為皇家建立大功。我雖然不很賢明，但並不在意於聽音樂。」劉裕連忙笑著說：「這只是和你開玩笑罷了。」之後當劉裕的行鎮軍事職務，又當員外散騎常侍。之後又做劉裕鎮軍軍事職務，兼職東海太守，因為和劉裕一起起義，封爵始興縣五等候，又任劉裕的車騎將軍，中軍軍事職務。劉裕將要攻打南燕慕容超，當時謀劃的人很多都反對。臧熹卻從容不迫地說：「主公如果征伐南燕，拯救人民於水深火熱之中，統一天下，並不是遙遙無期的事。」劉裕回答說：「你說得對。」等到北伐時，臧熹要求隨從劉裕，沒有被允許，而讓他當了建威將軍、臨海太守。臨海郡多次經受戰火，人民死亡眾多，臧熹用心安撫和整頓，招攬流民，奔赴臨海的人有上千家。孫季高從海上襲擊廣州，中間經過臨海，臧熹幫助他運送物質，使孫季高後勤供應沒有顧慮。他又被推舉當散騎常侍官職，因母親去世離職，此後又隨同劉裕討伐劉毅。任職寧朔將軍，劉毅平定後，劉裕派遣朱齡石統率大軍攻討四川的譙縱。命令臧熹率領奇兵從中水出擊，以寧朔將軍並建平巴東二郡太守的職務從軍。蜀王譙縱派大將譙撫之率領一萬多人駐守牛脾城，又派譙小倍防衛打鼻城，臧熹攻到牛脾城，譙撫之大敗而逃。臧熹追擊並殺掉了他。譙小倍聽說譙撫之死了，馬上逃跑。成都被攻下。臧熹突發疾病。晉安帝義熙九年(413)死於蜀郡牛脾縣。當時僅三十九歲，死後被追認為光祿勳。
臧質少年時代喜歡追鷹走狗，特別會賭博，身長六尺七寸，額部前傾，牙齒外露，頭頂沒有毛髮，四周有一圈卷髮。當他不滿二十歲時，劉裕讓他當世子中軍參軍，永初元年(420)臧質當員外散騎侍郎，是因為跟劉義隆曾在一起的緣故。母親去世時他離職。服孝三年後，又當江夏王劉義恭的撫軍參軍。因為輕佻放縱，被文帝知道，降為給事中。他表姐會稽宣長公主每每在文帝前為臧質說話，於是又讓他外出當建平太守。很能得蠻楚地區百姓的擁護。南蠻校尉劉湛回到朝廷，稱他是一個好太守，因此他遷官寧遠將軍，歷陽太守。他接著升竟陵江夏太守，再當建武將軍，巴東、建平兩郡太守。官吏和百姓都很愛戴他。
臧質剛剛三十歲，多次當名郡太守，又博覽史書，處理文書案件快捷而簡便，既有氣魄又喜歡談論打仗的事。文帝認為他可以辦大事，想讓他當益州刺史。還未實行，又調他為使持節，都督徐兗二州諸軍事，寧遠將軍，徐兗二州刺史，在任期內奢侈過分，賞罰無常，被有關官吏彈劾，文帝寬容了他。他和范曄，徐湛之很友好，范曄謀反，估計臧質定會響應他，誰知范曄的陰謀迅速暴露，臧質又被選為建威將軍，義興太守，文帝元嘉二十六年(449)，文帝拜謁京陵，臧質來到丹徒朝見皇帝，與何勳、擅和之都因是有功之臣，同時被待以上賓的禮節，文帝設宴款待了他們。在酒席上非常融洽。文帝賜給他們每人一千匹布。
元嘉二十七年(450)臧質升任南譙王劉義宣司空的司馬，寧朔將軍，南平內史。還未就任，恰遇北魏皇帝拓跋燾圍攻汝南郡，汝南城防司令陳憲堅定防守並向朝廷告急。文帝派臧質率輕兵進入壽陽城，立即統率壽陽軍隊。和安蠻司馬劉康祖共同救護陳憲。魏軍退走。便命令臧質進攻汝南西邊的刀壁等山蠻。大敗山蠻，俘獲一萬多人，因此他陞官太子右衛帥，又因為之前攻擊山蠻時誤殺手下隊長嚴祖和接受一些俘虜，不把他們送交朝廷，被免去官職。此時文帝正大舉北伐，臧質以士兵身份和驃騎司馬王方四等率領軍隊攻擊許昌，洛陽，安北司馬王玄謨進攻滑台受挫，臧質請求乘此機會代替王玄謨，文帝不允許。
魏軍侵略徐州、豫州，拓跋燾率大軍數十萬向彭城進發，文帝命令臧質做輔國將軍，假節設置部佐，率一萬多人向北增援，剛到盱眙城，拓跋燾已過淮河，冗從僕射胡崇之任臧質部下司馬，胡崇之的副官與太子積弩將軍臧澄之，建威將軍毛熙祚也被臧質統率。盱眙城東邊有座高山，臧質擔心敵人佔據它們，命令胡崇之、臧澄之兩路人馬駐紮山上，臧質駐紮南城，敵人先進攻胡崇之、臧澄之等兩支部隊，胡崇之苦戰不已，但寡不敵眾，兩支軍隊逃竄，結果全被敵人殺死，敵人又進攻毛熙祚的部隊，毛熙祚的部下全部是北府精兵，他的部將李灌率領官兵拚命反擊，殺死很多敵人，隊長周胤之，監軍楊文生又率兵射擊敵人，敵人快撤退時，恰巧毛熙祚因傷勢過重而死去，這支軍隊也突然崩潰，這天臧質按兵不救，所以三支軍隊全軍覆沒。這以前，仇池被攻下時，胡崇之當時是龍驤將軍，北秦川刺史，坐鎮百頃城，行軍到濁水時，被魏軍打敗，全軍覆沒，胡崇之和他的部下都被敵人俘虜，以後又找機會竄逃而回，到這次又被敵人打敗，毛熙祚是司州刺史朱修之的侄兒，胡崇之、毛熙祚都被贈官正員郎，臧澄之的事參見他祖父臧燾傳。
前面三支部隊潰敗之後，當日晚上臧質的部隊也潰逃了。他們丟掉所有軍需物質和盔甲武器，丟下一百多人空手跑到盱眙城，盱眙太守沈璞已完整地作好了攻守準備。城內有戰士三千人，臧質見了大喜，便和沈璞共同防守。敵人開始向南進攻時，並未帶隨軍糧彈，只向當地百姓籌措軍糧。等過了淮河吃光了平越、石鱉兩個軍營的糧食，這時已無處掠取物資，士兵與戰馬飢餓得很，聽說盱眙城有儲藏好的谷粟，希望把它當成回家的乾糧倉庫。魏人自攻破胡崇之等之後，攻盱眙城不下，便率軍南下。因此盱眙城得以加固防城的守備，無不做得十分嚴密。
文帝元嘉二十八年(451)正月初旬，拓跋燾從廣陵北返，便全力攻擊盱眙，並向臧質要酒喝，臧質裝了一壺尿送給拓跋燾。拓跋燾非常憤怒，便修起長長的包圍壕溝，一個晚上便選出了進攻方向，從東北向城內猛攻，挖城東山上的土和石頭填滿了護城河，拓跋燾又怕城內宋軍從水路逃跑，於是又造出大船，想在君山建浮橋，以便斷絕從淮河逃跑的退路，城內宋軍乘坐軍船出來迎戰，大敗魏軍。第二天早晨，敵人改大船為浮船，橋上都佈置士兵防守，城內出戰，不能打敗敵兵，於是敵人的浮橋成功，宋軍水陸之路斷絕了。
拓跋燾給臧質寫了一封信說：「我軍現在派的戰士，都不是我們鮮卑族人，城的東北是丁零人和東胡人，城南是陝西的氐族和羌族人。假如丁零族人死的話，正好可以消滅常山郡和趙郡的反賊；東城人死的話，正好消滅并州的反賊；氐族和羌族死的話，正可以消滅關中的反賊；你如果殺死丁零人，胡人，沒有什麼不好的。」臧質的回信說：「你的信已經看了，知道你的險惡用心。你倚仗強兵，多次侵略我國，這方面的事，不用多說。雖然王玄謨從東邊撤退，梁坦在西邊兵敗，但你怎麼不知道童謠裡的話：『敵人飲馬長江水，拓跋佛狸(燾小名)死卯年。」這個期限還沒有到，這不過是開啟你飲馬長江的途徑罷了，冥冥之中，你的性命難逃，不是人力能管得了的。我接受皇上的命令，要消滅你們，準備打到你們的都城，還未等到那時，你竟然自動上門送死，怎麼能讓你活著跑回去，在你的桑乾宮喝酒吃肉呢！只要你停下來攻擊我的城市，即使我不能殺死你你也必須因此而死。如果你幸運的話，也許是被亂兵殺死；如果你的運氣壞，那麼一定要把你生擒歸案，用一驢車拖你到刑場去斬首。我本來不打算保全性命。如老天爺瞎了眼，被你打敗，你碎屍萬段也好，車裂鍋煮也好。如果這樣，也不足以向我們皇上謝罪。你的見識謀略力量，難道可以超過苻堅嗎？這幾年老天讓你得逞；只是你們的步兵騎兵還沒有喝長江水，太歲卯未年還未到罷了。斛蘭氏當年深入彭城，遇到幾天雨水，沒有一個人活著回去，怎麼你不記得了？馬上春雨將到，我們的援軍將要四面會集，你盡避安心攻城，不要走好了。如果你們的糧食不夠的話，盡量告訴我，我們馬上就會送給你糧食。現在你送我一把戰刀，難道是想叫我砍在你身上嗎？辛苦了，把這封信和你的使者一同帶回去，大家各自努力，不需多說。」這時魏國童謠中說：「兵車北來如穿梭，未料胡馬飲江水，胡主歸北死石濟，苦想渡江天不從。」所以臧質在信中這樣回答拓跋燾。
拓跋燾見信大怒，於是做一個鐵床，在床上放一些鐵釬，說要攻破城池捉到臧質，一定要讓他坐在這上面。臧質又給敵人各軍隊少數民族送出書信說：「給你們這些官兵看一些東西；拓跋佛狸給我的信如下：你們都是中國的百姓，何必為敵人如此出力，男子漢大丈夫怎麼不知道轉禍為福呢！現在寫給你們的信如下，你們細細思量！」同時下令如果有能殺掉拓跋燾的，封開國縣侯，食邑一萬戶，另加各種布帛一萬匹。
魏軍用鉤車鉤城樓，宋軍在城內用粗麻繩繫住敵人的鉤車，幾百人共同拉著，鉤子不能退回去。到了夜晚，用木桶裝著士兵，吊出城外，斬斷鉤子把它們拉進城來。第二天，敵人又用沖車來攻城，但城牆堅固，沖車每一次斫撞的地方也不過掉幾升牆土。於是魏軍又赤膊登城一批接一批，前面的掉下去，後面跟著上，沒有一個退卻的，被殺傷的幾達一萬多人，死屍堆積幾乎和城牆一樣高，守軍還射死了魏軍的高陽王。這樣鏖戰達一個多月，敵人死掉近一半。此時拓跋燾又聽說彭城王劉義康，準備截斷他的退路，宋朝正派水軍從海上進入淮河，加上因病而死的很多，二月二日，拓跋燾解除對盱眙的包圍逃走了。
文帝認為臧質立了大功，讓他當使持節，監護雍州、梁州、南秦州、北秦州四州諸軍事，冠軍將軍、寧蠻校尉、雍州刺史，封他為開國子，食邑五百戶。第二年，文帝又北伐，命令臧質率領他的所有部隊向潼關發動攻擊，但臧質在城郊停軍不動，只派他的司馬柳元景駐兵邊境之上，仍然不按時進軍。後來臧質又留戀寵姬愛妾，丟下軍隊，一個人回到襄陽，把雍州府倉庫的現錢用了六七百萬，被有關部門彈劾，文帝沒有追究這些。
太子劉邵殺文帝即位時，讓臧質做丹陽尹兼任征虜將軍，臧質家裡人派門人師凱給臧質報訊，把文帝被殺的經過全部告訴給臧質。臧質把師凱說的寫成奏疏，派人告訴譙郡王劉義宣，又派雍州祭酒從事田穎起，帶著他的意思報告給武陵王劉駿，他本人則率軍五千，飛馳東下討伐劉邵，他從陽口到江陵會見劉義宣，臧質的幾個在首都的兒子，聽說臧質起兵逃出京城。劉邵想安慰取悅他們，下了一道詔書說：「臧敦等無故恐嚇自己，慌忙逃走，太糊塗了，確實令人大惑不解。臧質是皇家的親戚，有功的大臣，忠誠皇室，誠實剛正，正要讓他到一個更重要的位置上，輔佐朝廷，但他的子弟都逃離京城，這不利於他們的利益，現在派人告訴他們朝廷的意思，讓他們各自恢復本職。」不久劉邵找到臧敦，叫大將軍劉義恭代理打了臧敦三十棍子。之後又賞了一大堆東西。劉義宣得到臧質的報告，當天便宣佈起兵，迅速派人告訴武陵王劉駿，並且順便任命臧質當征北將軍。臧質直接進兵尋陽，和武陵王劉駿同時東下。武陵王劉駿到了新亭，正式登皇帝位，讓臧質做都督江州諸軍事、車騎將軍、開府儀同三司、江州刺史，另加散騎常侍，使持節和過去一樣，派臧質率他的部隊從白下城步行而上，直接進攻廣莫門，守門的士兵都逃跑了。薛安都、程天祚等人也從南掖門攻入，和臧質會師太極殿，生擒劉邵。此後又派臧質留下防守朝廷宮殿，另外百人警衛保護臧質。封他為始興郡公，食邑三千戶。他回到江州時，大小船隻達千餘艘。所統部隊前後長達百餘里。和臧質一起六艘船都刻有龍形印紋。
此時宋武帝正收集權力，但臧質卻把他當小皇帝看待，專橫獨斷，貪得無厭。到了尋陽，賞罰獎懲，不再向朝廷請示。盆口、鉤圻兩戍的米都挪用了，朝廷多次派人來檢查質問，臧質漸漸懷疑起來，心中恐懼。又心想自己的才略，在當時確實沒有第二個人趕得上，先前聽說劉邵殺掉文帝，便頓生野心，因為劉義宣能力平庸，容易挾制，想表面上推戴他，暗中則自己掌權。到了江陵，以非常之禮拜見義宣。臧質和劉義宣是表兄弟，但他比義宣大十歲，義宣當時大驚說：「兄長為什麼事拜老弟呢！」臧質說：「在這樣的時候就該這樣。」只因當時劉義宣已推奉孝武帝劉駿，所以他的企圖沒有得逞，臧質經常擔心這件事洩露出去，但到了新亭，又以非常之禮拜見江夏王劉義恭，義恭大吃一驚，問臧質為什麼這樣，臧質說：「天下動盪時期，禮節和平常不同，先前在荊州，我也是這樣見義宣的。」恰巧義宣和孝武帝有矛盾(參見《義宣傳》)，臧質因此暗地派人引誘劉義宣，議論朝廷的措施的好壞。他對義宣說：「挾有震動皇帝的權威是不能長久地保持官位的，皇帝和丞相勢均力敵，一山不容二虎，今日你獨立掌握封疆大權，荊州地形險固，兵強馬壯，猶豫未決，必定被別人搶先，招致禍害。」臧質的女兒是義宣的兒子劉采的妻子，劉義宣以為臧質不會有二心，便接受他的勸說。更加上義宣的心腹將吏蔡超、竺超民等人，都有很大的野心，希望義宣做皇帝，都想憑據臧質的威名，成就他們的大事，也慫恿劉義宣。此時義宣還未接受丞相的職位，臧質的兒子臧敦做黃門侍郎，帶著朝廷詔書勸說劉義宣當丞相，路經尋陽，臧質叫臧敦重新勸說義宣造反，而且說到孝武帝的種種罪過。劉義宣於是堅定造反的決心。臧質又派人告訴豫州刺史魯爽，約定在孝建元年(454)秋同時起兵。魯爽聽錯了話，當時便宣佈起兵，並且派人到京城告訴他弟弟魯瑜，魯瑜連忙帶家人一起逃出城，奔赴魯爽。魯瑜弟弟魯弘當臧質的州府官吏，孝武帝派人叫臧質抓住魯弘，臧質於是扣住朝廷使者，慌忙宣佈軍隊起事，並且寫了一道奏疏說：
「臣下聽說拿著藥伺候雙親的病，並非他喜歡吃苦的東西，提起斧頭砍去毒塊，怎麼會忘記肌膚的疼痛！又聽說先有猜疑，後來縱然和好，忠誠必定不再像當初那樣，小地方隱忍，大地方寬容，即使是心腹也必須順從。丞相劉義宣安定皇家的功業，比齊桓公晉文公還要大，作為皇親國戚的資格，比周公衛康叔還正當，但邪惡的人嫉妒善良的人，確實有那麼一群人，他們隱藏凶狠的惡意，表面裝得很好，嫉妒立了大功的人，或者借助一點小寶勞和皇帝的恩寵作威作福，製造罪惡的勾當。知道自己罪惡深重，必定要被斬首。於是反而推卸責任譭謗無辜的好人，進讒言誣陷忠誠的丞相，到處結納私黨，招集眾多小人。勳臣故友，現在沒有一個健在，難道不是因為那幫小人從中煽動，用讒言誣陷所致嗎？皇上您和他們關係親近，一點也不懷疑他們，於是朝廷中的密謀，被流言蜚語所左右。猜疑之心已被這些人煽起，我們從過去現在的經驗看，確實非常害怕，所以在尋陽一帶起兵，為的是效忠國家，從晉陽拿起武器，一定要剷除皇上身邊的奸臣。我誠然平庸而懦弱，但曾受先帝的教誨，雖然慚愧不能選進賢人，但卻有除掉惡人的心願，先前聽到你們那些不好的風聲而憤怒，現在更是勃然大怒，況且義宣剛剛接受天降使命。這次確實關係到國家的存亡。現在接受丞相的指揮先期挺進，馬上抵達京城。
「我本來是一介小人，少年時代沒有大的志向，因為某些機會，竟然當了封疆大吏，本來願望早已實現，心滿意足，怎能再希望建立意外之功，獲得意外的恩寵呢？只是因為除去蔓草要迅速，驅逐惡人也要迅速。所以不顧安危，更不考慮家人的安全。還希望憑著皇上的英明，瞭解我的一片赤心，如果我不真誠，我情願被殺。臣下還希望陛下體會丞相對皇上忠誠的品格；第二記住我們曾經為國家所作的一點貢獻，不要顧慮你身邊的那些小人，反而失去全國人民的擁護，而應拿出尚方寶劍，將這些奸人斬首，那麼我們指向朝廷的旌旗，便迅速地掉頭。那樣國家的秩序便可恢復正常，倫理綱常重複舊貌，這樣的話可以上讓祖宗高興，下讓百姓快樂，我們說這些話的時候，仍然流淚不已。」
臧質用魯弘當輔國將軍，東下戍奪大雷城，並且派人報告劉義宣，劉義宣派咨議參軍劉湛之率領一萬士兵會合魯弘。
宋孝武帝派撫軍將軍柳元景率領豫州刺史王玄謨等水軍，駐紮於梁山洲上，在長江西岸建起彎月形的堡壘，水陸兩路等待臧質的軍隊的到來，殿中將軍沈靈賜率領一百艘小艦在南陵擊破臧質先鋒部隊，生擒臧質的將領徐慶安、副將王僧，臧質到梁山，也在西岸修築堡壘與官軍對陣。柳元景草擬了一幅檄文告示諸軍說：「應天承命，是新朝接受上天的指示，繼承先帝是我們的正確選擇，若不是種種吉祥的徵兆，神明的支持，崇高的道德得到人民的擁護，怎能登臨皇位，安然地坐上皇天給予的位置，大宋的創業，比中古時的王朝更加偉大，皇室的事業一定會永遠流傳下去，種種麻煩的降臨，終於招致今日的禍亂，目前的動盪非常危險，倫理綱常幾乎快要崩潰，皇上神武超人，孝感神靈，仁心滋助草木生長，善心激發天道，他親自巡視荊楚之地，掃除叛亂的兇徒，四方援軍前後相繼。他崇高的品德巍巍矗立，日月星辰重見光明，祖宗大業再度繁榮。
「臧質少年時代犯下許多罪行，被體面的人們譏笑沉溺物慾，悖亂無常。處處與人為敵，在他的官任上，一點也不努力效忠，位臨人民之上，只知搜刮百姓，他陞官全靠行賄，因為索賄竟然能滅人之族，所以康周昕全族被殺，冤枉幾乎通到上天。郭伯，西門遺是下賤出身，臧質卻讓他們做到州級官吏，往年當東郡太守，賣官糧幾達三千萬餘石。率兵西討群蠻，把俘虜和戰利品放進自己腰包，在徐兗二州任上貪得無厭，殺害邊疆人民，視同草木一般，耗費州府的儲蓄，挪用軍隊的糧食。在雍州任上，公開盜竊州府的積蓄，隨便改動賬簿，專門搞欺騙勾當，接受朝廷命令北伐時，害怕敵人不敢赴援友軍，出師很長時間，仍想著寵姬愛妾，單人回州，擁著嬪妃摟著妖女，在軍營之中喝酒調情。孔熙先、范曄那樣的謀反活動，他公開地談論。他的諸如此類的罪行，都在文件中記得很清楚，他在荊州停留時候，竟然安排別人做皇帝，並且寫信派人聯繫，公然的進行；新亭之戰的勝利、大亂已平，元兇劉邵苟延殘喘命在頃刻，廣莫門的臧軍一箭不發，此門自動打開，敵人奔逃，臧質仍然徘徊在街巷之中，在那裡佈陣陳兵，他的功勞不值一提，滿朝人士都同意這個觀點，但臧質卻虛張聲勢，稱說自己的功勞，造出謠言，說這次起義，他的功勞沒有第二個人趕上，開始叫他守衛宮殿，他忘掉了自己的臣子身份，直奔朝廷府庫，一下子便把裡面的東西搶個一乾二淨，皇上寬容大量，原諒他的這些罪過，記住他的一點功勞，掩蓋他不老實的罪行。於是評定他的功勞為第一等，讓他當了大官，給他的榮譽非常之高，簡直沒有第二個人趕上，但他因此肆無忌禪，貪得無厭，不斷的要求更多的賞賜，而且一點也不知休止，他要的樂器簡直使大予府的好東西都不存在了。他獲得的寶貝幾乎佔去了官府的一半，徐司空為王室立了不少功勳，不幸被劉邵所殺，臧質青年時代時和他友好，而且和一般朋友不同，竟然一點也不同情。徐司空的子弟，只聽說他殘酷地搶掠人家，徐家裡的每一塊土地，每一寸的珍寶都被他掠奪一空，到了接受皇上命令南歸江州時，在路上驕橫無忌，逼人妻子，奪人子女，搶劫市場上的金銀布匹，他的罪行幾乎讓京城人憤怒填胸，他醜惡的名聲人人皆知：不認故人朋友，敵視忠誠賢明的人士。魯尚期、尹周等人曾做過他的心腹，之後在朝廷訴說臧質的無情。袁同、邊子疇等人，曾任他的部屬，離開他再也沒回頭。而且他不斷上書朝廷，多次要求榮譽，臧質只是吹噓他的功勞，從不承認部下的成績，有錯便是朝廷所致，或者便說是有關部門的失誤。國人因此對他失去信任，有識之士誰也不附從。何文敬只不過是一個做小事的僕人，為人狡詐。臧質被他的諂媚所迷惑，讓他當他的主要委託人，使他在外面握有大權，內則常常在臧質的屋子裡橫行。臧質天生是一個製造災難的人，諸如此類的事不勝枚舉，用盡南山的竹子，也不能寫盡他的罪行。
「丞相義宣權大官高，手下官員佔據國家的一半，很被朝廷依靠和信任。這確實超過常情，但他不知道謙虛謹慎，不明白馴服和反叛的差別。像谷至一樣地犯錯誤，像範文子一樣悖亂不忠。於是忘掉了祖宗的祭祀，卻接受奸賊的欺騙，同意反賊的計謀，想篡位做皇帝。去年在荊州留戀不動，坐山觀虎鬥，表面上派一些疲老的士兵，不過只三千人，騎兵一個不出來，軍糧半點不供應。朝廷只因他親近官高，給他以很重的賞賜，甚至惠及他的兒子們，看待他確實超過了平常。假如一個人沒有見識，被人支配，必然作出壞事。現在他的行為，正是如此。回想他過去表面的忠誠，實際上則是不老實的偽裝。況且國家遇到困難時期，不比平常時候，作為臣子的職責，哪一個不迅速勤王？而他卻縱容敵人忘掉仇寇，竟不親自赴會。當了十年刺史，沒聽說一件成績，多次接受賄賂，掠奪人民，縱慾過度，寵愛姬妾幾達數千人，養著和尚尼姑有上千人，敗壞道德，污染風俗。對抗人民和神明，人民對他的怨恨滿路都是，國人的批評每年成堆，最後在劉邵未被消滅時，氣勢仍很強大，劉邵將要毀掉義宣母親私墳，殺掉他的兒子，為的是製造恐怖的氣氛，可喜依賴起義的大部隊，迅速打敗了元兇劉邵，很快平定了禍亂，讓人們丟掉怨恨的心情，解除了難忍的痛苦，獎勵功勞，選擇高尚的人到朝廷。而義宣則借別人力量幫助自己，忘記友人的思想，讓壞蛋快樂，他總是製造混亂，懷疑別人的成功，聽說沒有第二個人趕得上。
「我才低能淺，承蒙皇上的看重，做到很大的官職，遠遠超過了平常軍人，駐守北方邊疆抱著一腔熱血，常希望捐軀為國，報效皇上的知遇之恩，有時候覺得心潮澎湃，所以看到荊州人的行動非常惱火，看到江州刺史的叛亂，萬分氣憤，如果我死了國家安寧，我一定要捐軀疆場，況且有皇上英明的指揮，統率眾多義軍，一定會有勝利的把握，這是眾人看得很清楚的。至於薛安都所率領的騎兵，從陸地進攻檀右衛、申右帥、垣游擊等將領們正統率精銳的部隊，飛快地在路上奔馳，王玄謨則正統率水軍，早已長驅西進，我則統率主力部隊，迅疾前行。驍騎將軍竟陵王義恭則是皇親國戚，威名蓋世，眾望所歸；大司馬江夏王義恭深謀遠慮，他們都匯聚在這支大軍，齊頭並進；皇上在後面坐鎮指揮，軍車發出悅耳的響聲，五彩金牛牽引紅旗，成千上萬的騎兵，搖天震地，萬艘兵艦如彩雲齊飛。我們的威名號令，能使銀河轉動，以正義之師攻擊叛亂敵軍，如摧枯拉朽，加上天下同心，七星同慶，神鬼保佑，勝利更是不言而喻。
「你們附從的將士們有的幾代蒙受皇恩，有的心懷道義，應該知道君臣上下的秩序，下不犯上，帽子和鞋襪，不能顛倒，順從秩序，必享成功。怎能附從逆賊而招致聲敗名裂的下場，而願意父母被殺，幼子被斬呢？所以皇上下詔希望能幡然悔悟，目前只是被叛軍所制，但心中卻站在皇上一邊，是禍是福馬上就會兌現，現在不行動，後悔不及。看到檄文時，趕快掙脫叛賊的牢籠。」
劉義宣也接著東進，江夏王劉義恭給劉義宣的信說：「當年桓玄借用殷仲堪的軍隊和今日一樣，最終還是謀害了仲堪。」劉義宣於是和臧質互相猜疑。臧質獻計給劉義宣說：「現在派一萬攻取南洲，那麼梁山的敵兵使兵分兩路，用一萬人牽制王玄謨，他一定不敢動，我便在江中連結水軍，直攻石頭城，這是上策。」劉義宣準備聽從他的計策，他的心腹劉湛之說：「臧質想當先峰，這個心思不可靠，還不如集中精兵攻佔梁山，攻克之後長驅東下，這是萬全之策。」
臧質派將領尹周之攻擊鬍子反、柳叔政的江西堡壘，當時鬍子反東渡長江和王玄謨商討軍情，聽說敵人到了，慌忙回到西岸，尹周之進攻正緊急，劉季之率領水軍與臧質的軍隊展開激烈的搏鬥，但敵人力量太大，於是又求救於王玄謨，玄謨沒有派增援人馬，部將崔勳之堅決反對、於是派崔劭之增援西岸軍隊，崔到後，西岸堡壘已被臧軍攻克，崔勳之也不幸戰死，劉季之率領殘兵退了回去。鬍子反、柳叔政也奔回東岸，王玄謨將鬍子反的副將李文仲斬首，臧質想繼續攻擊東岸城池。劉義宣的部下顏樂之勸劉義宣說：「臧質如果再攻下東城，那麼所有的功勞便都是他的了，應該派遣你的部隊自己行動。」劉義宣於是派劉湛之率兵靠近臧質，在東城南邊佈陣，王玄謨讓老弱士兵守衛城池，把他的精兵全部擺出攻擊臧軍，薛安都的騎兵最先攻擊，垣護之指揮各將領相繼衝過去，打了很長時間，臧軍的軍陣稍稍有點移動，於是薛安都的騎兵趁勢衝過去，此時劉季之，宗越又擊潰了臧軍的西北陣腳，王玄謨等眾多軍隊一齊猛攻。臧軍大敗，江上的朝廷軍隊趁著東風放火焚燬臧軍的全部船隻並漫延到西岸，臧質找劉義宣想討論軍事，但義宣早已逃走了，臧質手足無措，也逃跑了，他的軍士全部投降或逃走。
臧質到了潯陽，將州府的屋子全部燒燬，用船裝著妓妾向西方逃去，叫他寵愛的部下何文敬率兵在前面開路。到了西陽(今黃岡)，西陽太守魯方平是臧質的私黨，這時候有了二心，騙何文敬說：「詔書宣佈，只需緝拿元兇一人，其餘的不問。」文敬丟下他的部下逃跑了。
臧質先前叫他妹夫羊沖當武昌郡太守，臧質前往投靠他，到了武昌得知羊沖已被郡丞胡庇之殺了。臧質走投無路，於是跑到南湖，肚子餓了，摘蓮子吃，追兵趕到，臧質非常窘迫潛到水下，用荷葉遮住頭，只讓鼻子出氣，小隊長俱兒望見，射了一箭，正好擊在他的心坎上，接著兵刀齊下，臧質的五臟六腑都流出來了，幾乎把周圍的水草挽住，隊長裘應砍下臧質的腦袋，送他的腦袋到京城。當時他五十五歲。錄尚書江夏王劉義恭、左僕射劉宏等上了一道奏疏說：「臧質本來是低能庸才，但借助了種種機會。他愚蠢至極，反背天常，進行造反，使天下動亂不已，想當皇帝，忘恩負義，罪行滔天。國家的法律對這樣的人應該殺頭，為懲誡後世當臣子不忠誠的，去掉壞的東西應該果斷，我們臣子們討論，根據他罪行，又根據漢朝王莽的先例，應把他的頭用油漆塗一遍，留在軍事博物館內，為的是成為將來人的鑒戒，告訴後人不要向他學習。」孝武下詔書同意了。
臧質開始東下時，劉義宣用臧質兒子臧敦做征虜將軍、雍州刺史，臧質留兒子臧敞做監軍，讓臧敦隨從自己。這時都被武昌郡抓住送給朝廷，臧敦官至黃門郎，臧敦的弟弟臧敷官至司徒部屬，臧敷的弟弟臧敞，官至太子洗馬，臧敞弟弟臧璽，臧敦的兒子仲璋，臧質的另外兩子兩孫沒有名聲的，同時被殺。
臧質起兵時，豫章太守任薈之，臨川內史劉懷之，鄱陽太守杜仲儒都為臧質賣力，派遣本郡的人來送糧食，都被殺掉。任薈之字處茂，樂安人，官至孝武帝和南平王劉鑠撫軍右軍司馬，長史行事，文帝曾評價他們說：「威望雖不夠，但才能有餘。」杜仲儒，是杜驥的哥哥的兒子。
豫章望蔡子的國相孫沖之起義抵抗臧質。臧質派部將郭會膚，史山夫討伐他，被孫沖之打敗。孝武帝下詔用他當尚書都官曹郎中。孫沖之，太原中都人氏，晉朝秘書監孫盛的曾孫。最後官至右軍將軍，巴東太守，後來的事見鄧琬傳。沈靈賜因為在南陵打敗臧質先鋒的功勞，封爵南平縣男，食邑三百戶；賜給崔勳之官通直郎；大司馬參軍劉天賜在梁山犧牲以後被追認為給事中。