王戎字浚沖，琅王牙臨沂人。祖父王雄，是幽州刺史。父親王渾，是涼州刺史、貞陵亭侯。王戎幼年聰明伶俐，神彩秀美。能視日而目不眩，裴楷見了他仔細審視一番說：「戎眼爛爛，如巖下電。」六七歲時，在宣武場看戲，猛獸在檻籠中怒吼震地，眾人都奔走退避，王戎卻站著不動，神色如常。魏明帝在閣上看到後，稱讚王戎是奇童。王戎曾與群兒在道旁遊玩，見李樹上有很多果實，群兒爭著去摘取，王戎卻不去，有人問他為何不去，王戎說：「樹在道旁而多果實，果實必定是苦的。」取來一嘗，果然是苦的。
阮籍與王渾是朋友。王戎十五歲時，隨父在官署。王戎比阮籍小二十歲，而阮籍與王戎交為朋友。阮籍每次到王渾那裡去，與王渾見一面就離去，找王戎交談，很久才出來。對王渾說：「浚沖清虛可賞，不是像您這樣的人，與您談話，不如與阿戎談話。」王渾死於涼州時，故吏捐贈數百萬錢助喪，王戎沒有接受，從此出名。王戎身材短小，坦率而不注重儀表，為人健談，善於提出話題，並能抓住談話的要領，朝中賢士曾於三月上巳節在洛水旁遊玩洗濯，有人問王濟說：「昨日郊遊有何談論？」王濟說：「張華善說《史記》《漢書》；裴危頁論前人言行，滔滔可聽；王戎談子房、季札之類的事，超然玄虛。」王戎就是這樣受到鑒識者的欣賞。
王戎曾經與阮籍共飲，當時兗州刺史劉昶(字公榮)在座，阮籍因為酒少，斟酒時沒有給劉昶斟，劉昶也不怨恨。王戎覺得奇怪，以後問阮籍道：「劉昶是什麼樣的人？」阮籍回答說：「勝過公榮的人，不可不給他酒喝；不如公榮的人，不敢不與他共同喝酒；只有公榮可以不給他酒喝。」王戎經常與阮籍等在竹林遊玩，有一次王戎來晚了。阮籍說：「俗物又來敗人興致。」王戎笑著說：「你們的興致看來很容易敗了。」
鍾會將伐蜀，拜訪並告別王戎，問王戎有何計滅蜀。王戎說：「道家有句話叫『為而不恃』，成功並不難，保持成果就難了。」及鍾會被殺，議者以為是知人之言。
王戎繼承父親的爵位，召為相國掾，歷任吏部黃門郎、散騎常侍、河東太守、荊州刺史，因遣吏修園宅論罪，應免官，皇帝下詔作贖罪處理。遷為豫州刺史，加建威將軍，受詔命伐吳。王戎派遣參軍羅尚、劉喬為前鋒，進攻武昌，吳將楊雍、孫述、江夏太守劉朗各率眾向王戎投降。王戎率大軍到江邊，吳牙門將孟泰獻蘄春、邾二縣投降。吳平以後，晉爵安豐縣侯，增食邑六千戶，賜絹六千匹。
王戎渡江安撫新附吳民，宣揚晉室威德恩惠。吳光祿勳石偉為人正直，不為孫皓所容，稱病回家。王戎讚揚他的清剛之節，上表向皇帝推薦，皇帝下詔拜石偉為議郎，以二千石爵祿終其身。荊州百姓悅服王戎，徵召為侍中。南郡太守劉肇送給王戎五十端名叫筒中的細布以行賄，被司隸糾察彈劾，因王戎知道是賄賂未曾接受，才沒有治罪，然而議論者認為這也是王戎的過錯。武帝對朝臣們說：「王戎的行為，怎能算懷私苟得，正是以不貪慾異於他人罷了。」武帝雖這樣替王戎解釋，仍為清廉謹慎者所鄙視，由此名聲受損。
王戎任職雖然沒有特殊才能，而庶政料理得好。後遷為光祿勳、吏部尚書，因母喪離職。王戎孝心至誠，但不拘禮制，守喪期間飲酒吃肉，或看下棋，而容貌憔悴，持杖才能行路。裴危頁前往弔唁，對人說：「如過於悲痛會毀傷身體，浚沖不免被譏為毀性。」當時和嶠也為父守喪，守正常禮法，量米而食，而哀痛毀身不及王戎。武帝對劉毅說：「和嶠守喪損身，超出禮制，使人憂慮。」劉毅說：「和嶠雖臥草苫而食米粥，那是惜生之孝，至於王戎，是所謂死孝，陛下當先為王戎憂慮。」王戎先前有嘔吐病，居喪期間病情加重。武帝派醫生為他治療，並賜給藥物，又使他斷絕賓客。
楊駿執政時，王戎拜為太子太傅。楊駿被殺之後，東安公司馬繇專斷刑賞，威震內外。王戎告誡司馬繇說：「大事件之後，考慮問題要深遠些。」司馬繇不聽，果然遭禍。後轉為中書令，加光祿大夫，給恩信五十人。又遷為尚書左僕射，兼吏部職。
王戎開始定甲午制，凡選拔人才，先讓被選者治理百姓，然後授官擢用。司隸傅鹹上奏彈劾王戎說：「《尚書》上說：『三年一次考核官吏政績，經過三次考核，即可升優退劣。』今內外群官，任期不到一年，王戎即奏請召還，既未定其優劣，就加以更換，送舊迎新，不絕於道路，巧偽奸詐之事由此產生，妨害農業和政事。王戎不依據堯舜經典行事，而舉動浮華，毀壞風俗，不但無益，且有大害。應免除王戎的官職，以使風俗敦厚。」王戎與賈充及郭氏通親，故未作處理。不久轉為司徒，以為王政將要頹敗，與權臣苟合求容，時值愍懷太子被廢，王戎無一句匡諫之言。
裴危頁是王戎的女婿，裴危頁被殺，王戎被牽連免官。齊王司馬礒起義兵討司馬倫，孫秀將王戎囚於京城內，司馬倫之子欲取出王戎作軍司。博士王繇說：「浚沖譎詐多端，哪肯為少年所用？」於是不用。惠帝回宮復位，以王戎為尚書令。接著河間王司馬..遣使者說服成都王司馬穎，將共討齊王司馬礒。討伐的檄文到京師，司馬礒對王戎說：「孫秀作亂，天子被幽禁威逼，我糾合義兵，掃除元惡，盡臣子之節，這是神人共知的。二王聽信讒言，將成大難，當依賴您之忠謀，以調和爭執。卿可為我籌劃對策。」王戎說：「公首倡義兵，安定晉室大業，立國以來，未有此人。然而論功行賞，漏掉有功之人，因而朝野失望，人懷異心。今二王有甲兵百萬，其鋒不可抵擋，您若捨棄權柄，以齊王身份回府第，可以保持原來爵祿。委權於他人，得崇讓之名，這是求全身之計。」司馬礒的謀臣葛韄發怒說：「自漢魏以來，王公失勢回府第，有能保全妻子兒女的嗎？發此議論者當斬。」於是百官震驚，王戎偽裝藥性發作掉進廁所，才免於遭禍。
王戎以為晉室已亂，仰慕春秋蘧伯玉的為人，隨波逐流，無剛直之節。自從掌選才任官之職，不曾擢拔出身寒微之士，退黜徒有虛名之人，只是隨時勢而沉浮，在官門中選辟調職而已。不久拜為司徒，雖總三司之權，而委事於僚屬。常私人乘小馬從便門出去遊玩，見到他的人不知他是三公。他原來的屬下官吏多升為大官，路上遇到他就要避開。為人好興財利，園田水碓周遍天下，積貨物，聚錢財，不計其數，常自執算籌，晝夜計算，常嫌不足。又很吝嗇，自己捨不得吃穿，天下人都說這是他的不治之症。女兒出嫁給裴危頁時，向他借錢數萬，很久沒有歸還。回娘家時王戎很不高興，女兒趕緊把錢還給他，這才高興起來。一個侄兒要結婚，王戎送給他一件單衣，結婚後又把這件單衣要回來。家裡有好品種的李樹，常賣李果，怕別人得到種子，賣時總在果核上鑽個孔。因為這些，常被世人譏笑。
以後跟隨惠帝北伐，王師在蕩陰潰敗，王戎退到鄴，又隨惠帝回洛陽。惠帝被逼西遷長安，王戎出奔到郟。在危難中曾親自與亂軍交鋒，冒白刃之險，然而談笑自若，未嘗有懼色。有時召集親故賓友，歡娛終日。惠帝永興二年(305)死於郟縣，終年七十二歲，謚號為元。
王戎善於鑒識人的品德才能，認為山濤如璞玉渾金，人人都羨慕其為寶，但不知可以做成何器；王衍神姿高遠，如瑤林玉樹，自然是塵世以外的人物。認為裴危頁拙於用其長，荀勖善於用其短，陳道寧如長竿磢磢高挺。族弟王敦有高名，王戎討厭他，王敦每次去看望王戎，王戎總是假托有病不見他。王敦後來果然叛亂。王戎就是這樣能鑒識人品，有先見之明。一次經過黃公酒壚下，回頭對後車上的門客們說：「我昔日與嵇叔夜、阮嗣宗在此酣飲，在竹林一起遊玩的朋友我也算最末一個。自嵇、阮去世，我便為時務所纏擾，今日舊物都在眼前，而人卻如遠隔山河了。」當初，孫秀為琅王牙郡吏，要求同鄉名士對他進行品評稱譽。王戎的從弟王衍不願評，王戎勸王衍還是評了好。及孫秀得志，朝士中與他有宿怨的都被殺，而王戎、王衍獲免。
王戎的兒子王萬，也有好名聲，從小就非常肥胖，王戎叫他吃糠，然而更加肥胖。十九歲就死了。有庶生子王興，不為王戎所重，以從弟陽平太守王音的兒子繼嗣。