王鎮之字伯重，琅笽臨沂人，是隱士王弘之的哥哥，曾祖王訥，是晉代的驃騎將軍。祖父王耆之是中書郎，父親王隨之，是上虞縣令。
王鎮之開始當琅笽王衛軍行參軍，出外補任剡縣和上虞縣令，在任上都有能幹的名聲。內史謝車酋請王鎮之當山陰縣令，他再一次作出了特別的成績。陞官衛軍參軍，本國郎中令，加號寧朔將軍。桓玄輔佐晉朝，用他當大將軍錄事參軍。當時三吳發生饑荒，派遣王鎮之帶著朝廷命令賑濟災民，但是會稽內史王愉不接受聖旨，王鎮之按法律彈劾了他。王愉的兒子王綏，是桓玄的外甥，當時是非常顯赫的人物。王鎮之便遭到他的排擠。王鎮之因為母親年老便以此作為借口請求補任安成太守，到了桓玄失敗時，桓玄的部將苻宏侵略本郡邊境，王鎮之抵抗了一年多，兄弟子侄五人都在戰鬥中犧牲。母親去世他就離職，因為在做官時清廉正直，他的妻子兒女無法得到完全的物質供應。於是丟下家庭帶著母親靈柩回到上虞祖先墳墓，安葬完畢，為兒子王標之請求任安彳復縣令，隨同兒子到任上做官。三年守孝期滿，當征西將軍劉道規的司馬，南平太守。徐道覆進逼江陵。朝廷增加王鎮之建威將軍的官號，統率檀道濟、到彥之等人討伐徐道覆，王鎮之因為未搞過軍事，堅決辭讓，但沒被允許。既而他的先鋒將軍打敗了。王鎮之以大兵身份兼任官職，不久又恢復官職。因為討伐徐道覆的功勞，封爵華容縣五等男、被征為廷尉。晉穆帝何皇后在建陵墓時，王鎮之任將作大匠(工程總管)，又進官御史中丞。因為剛正不阿，朝中百官都怕他。
接著王鎮之出外當使持節，都督交廣二州諸軍事，建威將軍、平越中郎將、廣州刺史。高祖對人說：「王鎮之青年便建立清廉名譽，他必定會成為吳隱之之後最好的官吏。嶺南的弊病必定會一洗乾淨。」在任上不接受俸祿，離開廣州時，和初至廣州時幾乎一樣乾淨。高祖剛開始建立相國府，用他當諮議參軍，兼領錄尚書事。王鎮之在行政上特別能幹，雖然嚴厲，但不殘酷，又陞官宋國宮廷的祠部尚書。高祖劉裕即位做皇帝，王鎮之以腳病名義申請辭職，劉裕讓他出外當輔國將軍、琅笽太守，又陞官宣訓衛尉，並任本州大中正。永初三年，在任上逝世，時年六十六歲。他弟弟王弘之的事跡在《隱逸傳》之中。