沈慶之字弘先，吳興武康人。少年有氣力，晉朝末年孫恩作亂，派他的軍隊攻打武康，沈慶之還不滿二十歲，跟隨鄉人、親族攻擊賊寇，屢次獲勝，因此以英勇聞名。軍亂之後，鄉里人員流散，沈慶之在家種田，勤勞刻苦，自立度日，四十歲還沒有出名。他哥哥沈敞之是趙倫之的征虜參軍，監南陽郡，抗擊蠻人有功，於是做了正式長官。沈慶之往襄陽看望哥哥，趙倫之見到後，對他非常欣賞，讓兒子竟陵太守趙伯符任命他為寧遠中兵參軍。竟陵的蠻兵屢次侵犯，沈慶之為他設計了一套策略，常常把蠻人擊敗，趙伯符由此得到了將帥的稱號。
永初二年(421)，沈慶之被任命為殿中員外將軍，又隨著趙伯符在到彥之的率領下北侵。趙伯符生病遍還，便隸屬於檀道濟。檀道濟告訴文帝，沈慶之忠誠謹慎通曉軍事，皇上讓他擔任領隊，防守東掖門，逐漸得到提拔，出入宮庭。領軍劉湛很欣賞他，準備進行引薦，對他說：「你在台閣年月已經很久了，最近我一定要加以推薦。」沈慶之嚴肅地說：「下官在台省十年，自然應該有所調動，不再因此連累您。」不久轉任正員將軍。等劉湛被捕的那天晚上，皇上開門召見沈慶之，沈慶之披甲著靴而入，皇上見了吃驚地說：「卿為什麼要穿這樣的緊急服裝？」沈慶之說：「半夜裡喊叫隊主，來不及換寬綽的官服。」後來派他去把吳郡太守抓來殺掉了。
元嘉十九年(442)，雍州刺史劉道產去世，各地蠻人大肆行動，征西司馬朱修之討伐蠻人失利，任命沈慶之為建威將軍，率領軍隊去幫助朱修之。朱修之兵敗下獄，沈慶之獨自率領軍隊進討，大破沔水沿岸的各幫蠻人。
後來擔任孝武帝的撫軍中兵參軍。孝武帝以本官號為雍州刺史，沈慶之隨著軍府西上，征討蠻寇屢建軍功。回到京城，又做廣陵王劉誕北中郎中兵參軍，加任建威將軍、南濟陰太守。雍州蠻人又作亂，沈慶之以將軍、太守的身份重新與隨王劉誕一起進入沔水地區。等到達襄陽，率領後軍中兵參軍柳元景、隨郡太守宗愨等討伐沔北的各幫山蠻，把他們打得大敗。威震諸山，群蠻都叩拜行禮。沈慶之患了頭風，好戴狐皮帽子，群蠻很厭惡，稱他作蒼頭公。每當見到沈慶之的軍隊，就畏懼地說：「蒼頭公又過來了。」
沈慶之引軍出發，前後破陣很多，又去討伐犬羊各幫山蠻，藉著山險建築起多重城牆，設置的門樓十分險峻。沈慶之在山下紮起連營，營中開門互相連通。又命令諸軍各自在營內挖池子，早晚都不向外打水。兼用它來防備蠻人放火。不久風刮得很大，蠻人夜間下山，每人提著一支火炬來燒營。火到後，沈慶之的軍兵則用池水把它灌滅。蠻人被圍困的日子久了，都是又餓又乏，自此以後漸漸出來投降。沈慶之前後所俘獲的蠻人，都遷移到京城，作為營戶。
元嘉二十七年(450)，調任太子步兵校尉。這一年，文帝將要北侵，沈慶之勸諫說：「檀道濟兩次出兵無功，到彥之後又失利而返，現在預料王玄謨等人也不會超過前兩位將軍，恐怕要再次使皇上的大軍受辱。」皇上說：「皇上大軍兩次受到挫折，另有原因。檀道濟縱養敵寇以保持自己的地位，到彥之中途疾病發作。敵人所憑靠的只有馬，夏天河水浩大，乘船渡河，..郂的守兵必然逃走，滑台這個小據點，很容易就可以攻下。攻克了這兩個地方，住那裡的房，吃那裡的糧，撫慰人民，虎牢和洛陽，自然就不鞏固了。」沈慶之堅持說明不可以這樣，當時丹陽尹徐湛之、吏部尚書江湛都在坐，皇上讓徐湛之等人和沈慶之進行辯駁。沈慶之說：「治國好像是治家一樣，耕田要問奴僕，織布要問婢女。陛下現在想要討伐一個國家，卻去和白面書生謀劃，事情怎麼會辦得成？」皇上大笑。
後來軍隊出發，沈慶之做王玄謨的副將。王玄謨進軍包圍滑台，沈慶之與蕭斌留守..郂，他仍然兼任蕭斌的輔國司馬。王玄謨進攻滑台，一連幾十天不能攻下，魏太武帝的大軍向南開進，蕭斌派沈慶之率領五千人去救王玄謨。沈慶之說：「少量軍隊輕率前往，必定沒有好處。」正趕上王玄謨退回，蕭斌將要把他斬首，沈慶之進行勸諫才算罷休。
蕭斌因為前驅部隊戰敗，打算死守..郂，沈慶之認為不可以。正遇上皇帝的使者到來，不許撤退，各位將領都應該留下。蕭斌又向沈慶之詢問計策，沈慶之說：「國門以外的事情，將領可以獨自作主，皇上的命令是從遠處來的，形勢已經不同了。您的帳下有一個范增而不能利用，空作議論有什麼用處？」蕭斌和在座的人都笑著說：「沈公現在又有了學問了。」沈慶之大聲地說：「眾人雖然讀過古今的書，卻不如下官的耳學。」王玄謨自己因為退敗，請求守衛..郂。蕭斌便返回歷城。申坦、垣護之共同據守清口，沈慶之乘驛馬返回。
元嘉二十九年(452)，軍隊又一次出發，沈慶之堅持勸阻沒有聽從。因為主張不同，沒有讓他北出。當時亡命徒司馬黑石、廬江叛吏夏侯方進在西陽五水煽動各幫蠻人，從淮河汝水之間直到長江沔水，都受到他們的禍害，於是便派遣沈慶之督率諸將前往討伐，詔令江、豫、荊、雍幾個州都要派兵接受沈慶之的指揮。
元嘉三十年，孝武帝出京駐在五洲，總統各路將帥。沈慶之從巴水趕到五洲請示軍事策略。正好遇見孝武帝的典簽董元嗣從建鄴回來，敘說元兇劭弒君叛逆，孝武帝派沈慶之率領眾軍返回。沈慶之對心腹說：「蕭斌是個婦人，不值得計較，其餘的將帥都容易合作。現在輔佐順主討伐叛逆，不愁不能成功。」當時元兇劭秘密地給沈慶之寫信，讓他殺死孝武帝。沈慶之入京求見，孝武帝假稱有病不敢相見，沈慶之直闖到面前，把元兇劭的手書呈上，孝武帝哭著請求進去和母親告辭。沈慶之說：「下官蒙受了先帝的厚恩，常常希望報答恩德。今天的事情，只是要看力量如何，殿下為什麼有這麼深的疑慮？」孝武帝起身鄭重參拜說：「家國的安危，就在於將軍了。」沈慶之於是便統領宮內外的軍隊進行部署。
府主簿顏竣聽說沈慶之到來，馳馬進殿見孝武帝說：「現在四方還不知道義軍起事，而劉劭佔據著天府，首尾不能呼應，這是很危險的辦法。應該等各鎮的力量聯合在一起，然後再起事。」沈慶之大聲地說：「現在正要舉辦大事，而黃頭小兒都來參預，這樣禍患就要到了，應該斬首示眾。」孝武帝說：「顏竣怎麼還不拜謝！」顏竣起身跪拜。沈慶之說：「您只能執掌文書的事情。」於是他進行了具體部署，十天功夫，內外全部辦理完畢，當時都認為是神兵。百姓十分歡悅。
各路軍隊已經聚集，委任沈慶之為武昌內史，兼任府中的司馬。孝武帝到了尋陽，沈慶之和柳元景等人都奉勸他即皇帝大位，沒有答應。賊人劉劭派遣沈慶之的門生錢無忌送信，勸說沈慶之解甲退出，沈慶之抓住錢無忌，報告了孝武帝。孝武帝登基後，任命沈慶之為領軍將軍，不久派出擔任南兗州刺史，加任都督，鎮守盱眙，封為南昌縣公。
孝建元年(454)，魯爽反叛，派沈慶之和薛安都等前往討伐。薛安都臨陣斬了魯爽，晉陞沈慶之封號為鎮北大將軍。不久與柳元景一齊任開府儀同三司，他堅持推辭，改封為始興縣公。沈慶之因為年滿七十，堅持要求辭職，便安排他做侍中、左光祿大夫、開府儀同三司。又堅決推讓，甚至於叩頭自述，說話就流眼淚。皇上不能勉強，答應以郡公的身份罷職回府，每月供給錢十萬，米一百斛，二衛史五十人。
大明三年(459)，司空竟陵王劉誕佔據黃陵反叛，又以沈慶之為車騎大將軍、開府儀同三司，他堅持辭讓南兗州刺史，加任都督，率領軍隊討伐。劉誕派遣門客沈道愍帶著書信去勸說沈慶之，贈給他玉環刀。沈慶之讓沈道愍回去，斥責了劉誕的罪惡。沈慶之到了城下，劉誕登樓對他說：「沈公，您白頭之年，為什麼還到這裡來？」沈慶之說：「朝廷認為您狂妄愚蠢，不值得麻煩少壯將軍，所以就讓我來了。」沈慶之堵塞了護城河，挖掘進攻的通道，建造行樓土山和各種進攻器具。當時夏季下雨不能攻城，皇上讓御史中丞庾徽之奏表免除沈慶之的官職來激他，而詔令並不追究。劉誕贈給沈慶之食物，提送的有一百多人，沈慶之並不打開，而把它們全部燒掉。劉誕在城上投下函表，讓沈慶之為他轉送。沈慶之說：「我奉命討賊，不能為你送表。」每次攻城，沈慶之就身先士卒。皇上告誡他說：「卿擔任著統率，應當是指揮有方，何須自身承受弓箭和石頭呢？」從四月到七月，終於殺進城中，斬了劉誕。晉陞沈慶之為司空，他又堅持推讓爵位。於是和柳元景一齊依照晉朝的密陵侯鄭袤的舊例，朝會時沈慶之位次於司空，柳元景位在群公之上，配給恤吏五十人，門前配備行馬。
起初，沈慶之曾經在夢中帶領儀仗隊進入廁所中，沈慶之很厭惡入廁的鄙陋。當時有善於占夢的人為他破解，說：「您必定會大富貴，然而並不在旦夕之間。」問他是什麼緣故，回答說：「儀仗隊當然就是富貴的表徵，廁所中則是所謂後帝。知道您富貴不在當朝的人主時期。」到了中興成功，從五校到現在而登上三公的高位。
大明四年，西陽的五水蠻又做寇賊，沈慶之以郡公的身份統率軍隊討平了他們。
沈慶之住在清明門外，有宅院四所，房屋非常華麗。又有園林在婁湖，沈慶之一夜之間帶領子孫遷居到那裡，把宅院還給了公家，把親戚中表都遷到了婁湖，各家的門都開在同一個院牆上。他廣開田園產業，常常指著土地對別人說：「錢都在這裡呢！」中興後他享受著大型的封國，家財一向豐厚，產業累計萬金，奴僕數以千計。兩次捐獻錢一千萬、谷一萬斛，因為始興郡的封地質量好距離近，請求改封為南海郡，沒有批准。他有妓妾十幾人，全都容貌美麗、技藝精工。沈慶之悠閒無事，盡情歡娛，除了進行朝賀，其他時間都不出門。常常隨從皇帝遊覽視察和打獵，騎在馬上動作凌厲，無異於青壯年。太子妃獻給孝武帝鏤金的調羹、筷子以及湯盂、飯勺，皇上都拿來賜給沈慶之，說：「酒具的賞賜，應該以大夫為先。」
皇上曾經飲酒飲得很高興，便讓群臣普遍地作詩，沈慶之粗略地有點口頭表達能力，但是手不能寫，每當要簽署文件的時候，則恨眼不識字。皇上逼著讓他作詩，沈慶之說：「臣不知書，請讓我口授給師伯。」皇上就讓顏師伯執筆。沈慶之口授說：「微生遇多幸，得逢時運昌。朽老筋力盡，徒步還南岡。辭榮此聖世，何愧張子房！」皇上非常高興，眾人都稱讚他的辭意之美。
孝武帝逝世，沈慶之與柳元景都接受了顧命。皇帝的遺詔中說：「如果有大的軍事征討，都要交給慶之。」前廢帝即位，贈給沈慶之几案和手杖，配給三望車一乘。沈慶之每次朝賀，常常乘坐豬鼻無幔車，左右的隨從不過三五個騎士。在田園中步行，常常在農忙的月份親自勞動，沒有人隨從，遇到的人不知道他就是三公。等給了他三望車，他對別人說：「從前我常常步行在田園中閒逛，有人時和馬合成三個，沒人時則和馬合成兩個。現在座了這個車子，還能到哪裡去呢？」等賜給了他几案和手杖，都堅持推讓。柳元景、顏師伯曾經去看望沈慶之，和他一塊去田間遊玩，柳元景等鳴笳列卒滿路，沈慶之獨自與隨從一人在田里，見到他們表情變得憂愁地說：「貧賤不能長居，富貴也難自守。我和諸公都是出身於貧賤，因為遇上了時代，榮華富貴到這個地步，只應當共同回想艱難時的情況。我這個老頭子八十歲的年紀，眼見的成功失敗已經很多，諸位炫耀這些車輛衣服，想要做什麼呢？」於是插下手杖耘起地來，全不顧及他們。柳元景等撤去侍者、提著衣服來到他跟前，沈慶之才與他們相對歡笑。
沈慶之尊貴以後，同鄉舊人中過去輕視沈慶之的人，後來見到後都跪行到他跟前。沈慶之歎息說：「還是從前的那個沈公。」當時沈姓而作盜賊首領的有幾十個人，民眾都很害怕這些禍害。沈慶之假裝為他們設酒舉行大型宴會，一下子把他們全部殺掉，於是整個境內都得到了肅清，人們都很喜悅。
前廢帝狂悖無道，眾人都勸他廢舊立新，柳元景等人聯合謀劃以後，就把打算告訴了沈慶之，沈慶之與江夏王劉義恭關係不深，告發了此事。廢帝殺死了劉義恭、柳元景等人，任命沈慶之為侍中、太尉。等義陽王劉昶造反，沈慶之跟隨廢帝渡過了長江，總統眾軍。
廢帝凶暴日益嚴重，沈慶之還是盡言勸諫，廢帝心裡逐漸不悅。後來處死了何邁，擔心沈慶之不同意，估計他必定要來，便切斷了青溪等幾座橋阻隔他。沈慶之果然去了，不得渡過而返回。廢帝又非常忌恨他，便派他的侄子沈攸之送毒藥賜他自殺，當時年齡八十歲。這年的生日那天，沈慶之夢見有人拿兩疋絹送給他，對他說：「這些絹足夠長度。」醒來後他對別人說：「我老頭子今年是免不了啦。兩疋，就是八十尺；足夠長度，就是沒有盈餘了。」死後，饋贈非常豐厚，追贈他為侍中，太尉依舊不變，給予鸞輅臥車，前後羽葆、樂隊，謚號為忠武公。還沒有來得及埋葬，前廢帝失敗。明帝即位，追贈為侍中、司空，謚號為襄公。泰始七年(471)，改封為蒼梧郡公。沈慶之的眾多族人和姻親中，因為沈慶之而得到職位的有幾十人。
他的長子沈文叔位居侍中，沈慶之死的時候，不肯喝藥，沈攸之用被子包住殺死了他，沈文叔偷偷地取藥收藏起來。有人勸文叔逃避，沈文叔見到廢帝截斷江夏王劉義恭的肢體，擔心逃亡的時候，廢帝發怒，可能會導致與劉義恭同樣的結果，於是飲藥自殺。沈文叔的兒子沈昭明位居秘書郎，聽說父親死了，說：「怎麼忍心獨自生存！」也自縊而死。
元徽元年(473)，恢復了先前的封號，當時改始興為廣興，沈昭明的兒子沈曇亮承襲了廣興郡公的爵位，齊朝接受禪讓，封國被廢除。