王導字茂弘，是光祿大夫王覽的孫子。父親王裁，任鎮軍司馬。王導年少時就風姿飄逸，見識器量清越弘遠。十四歲時，陳留高士張公見到他後非常驚奇，對他的從兄王敦說：「這個孩子的容貌氣度，是當將軍宰相的材料。」開始承襲祖上的爵位為即丘子。司空劉萛引薦他為東閣祭酒，又遷秘書郎、太子舍人、尚書郎，但他都未接受。後來在東海王司馬越處任參軍。
當時元帝還是琅王牙王，與王導關係很親密。王導知道天下已經開始了動亂，於是全心全意輔佐琅王牙王，暗中立下了興復朝綱的志願。元帝也非常信任器重他，兩人就像是好朋友一樣。元帝還在洛陽時，王導總是勸說他要盡快回到自己的藩國。當元帝出鎮下邳的時候，請王導擔任安東司馬，軍事謀劃，都聽從王導的安排。到元帝轉為鎮守建康的時候，吳地之人不願歸附，到建康已一個多月了，士族百姓還沒有人來登門拜謁，王導為此事很焦急。正好遇上王敦來朝，王導對他說：「琅王牙王仁義德行雖厚，但名望還不夠大，你現在威望名聲已經很高了，應該幫一幫琅王牙王才對。」正值三月上巳，元帝親自出外郊遊觀看人們的修禊活動，乘著肩輿，擺著全副儀仗，而王敦、王導等人和一些知名人士都騎馬跟隨。吳人紀瞻、顧榮，都是江南的名人，悄悄地前來觀看，見王敦、王導等人竟如此恭敬，都大吃一驚，於是相繼在路邊施禮拜迎。王導因而再向琅王牙王獻策說：「古代的帝王，無不禮敬故老，訪問當地風俗民情，謙虛克己，以招賢才。何況現在天下喪亂，神州大地四分五裂，建國大業才剛剛開始，正是需要人才的時候啊。顧榮、賀循，是當地有聲望的名人，不如好好結納他們以收攬人心。這兩人到了，其他的人沒有不來的。」元帝於是就派王導親自去造訪賀循、顧榮，兩人都應召而至。由此吳地之人望風順附，百姓歸心。從此之後，他們相互依靠，君臣的名分就確立了下來。
不久京師洛陽淪陷，中原人士到江南避難的有十之六七，王導勸元帝乘機收攬賢人君子，擴大力量以圖大事。其時荊、揚二州比較安定，人口眾多，物產豐饒，王導的治理方針講求清靜，常勸元帝克己垂范勵精圖治，輔佐君主安寧邦國。於是越發受元帝的器重，兩人之間的感情日益深厚，朝野之中都為之傾心，稱王導為「仲父」。元帝曾經真誠地對王導說：「你就是我的蕭何呀。」王導回答說：「過去秦朝無道，天下百姓厭棄亂世，而極為狡黠的人又欺凌踐踏人民，人們感懷漢王劉邦的恩德，群起響應反秦，所以大功容易告成。自從曹魏立朝以來，直到晉太康時期，公卿士大夫及門閥世族，奢侈揮霍相互攀比，先賢政教逐步衰退，先朝治世法度，無人遵循，大小辟吏，沉溺於享樂之中，才使得奸佞之人有機可乘，導致朝政大道虧傷。然而混亂後將會出現安定，這是天地間的規律。大王將要建立蓋世之功勳，重新一統山河，管仲、樂毅這樣的人才，這時就會出現，不是我們這樣普普通通的臣子所能比擬的。希望大王能深謀遠慮，廣擇賢能。顧榮、賀循、紀瞻、周王己，都是南方的名士，希望能對他們禮敬優待，則天下可安。」元帝採納了王導的建議。
永嘉末(312)，遷丹陽太守，加封為輔國將軍。王導上奏箋說：「昔日魏武帝曹孟德，是通達政理的君主。荀文若，是功臣中最傑出的人，封爵也不過亭侯。曹沖，是他最寵愛的兒子，也不過授別部司馬之職。以這樣的做法處理所有的事情，人們能不謹慎嗎！可今天執政者，不分貴賤賢愚，都封以重爵尊號，都擁有旗鼓傘扒等儀仗，動不動就相互攀比擺架子，有些沒有得到的，便覺得很羞恥。天子與官吏之間的界限混雜不清，朝廷的威望日見降低。王導我肩負重任，不能為朝廷清理河山，卻開啟導致混亂的先端，不切實際地貪竊名號，弄亂了朝廷禮法典章，請以後慎重而不要輕易賜予臣下鼓蓋等禮崇之物，就從我王導開始吧，讓尊卑雅俗有所區別，群下的信仰尊崇就不會出偏差。」元帝下令說：「王導德重功高，為孤所倚，本想予以表彰加以殊禮，但他謙虛謹慎嚴格約束自己，努力王事盡一片忠心，以身作則，因此順從他的良好的願望，促進他的糾正弊端的良苦用心和舉動。」於是拜寧遠將軍，接著又加振威將軍。愍帝即位，征為吏部郎，王導沒有接受。
元帝即位後，以王導為丞相軍諮祭酒。桓彝剛到江南，見朝廷力量微弱，對周豈頁說：「我因為中原動亂不安，來到這裡想保全自己，可朝廷衰弱成這個樣子，能成什麼大事！」心中一直憂鬱不快。他去拜見王導，暢談天下大事，回家後，對周豈頁說：「剛才我見到了管夷吾，不再憂愁了。」過江南來的諸人，每到閒暇之日，相邀到新亭宴飲。周豈頁在席上感歎：「風景倒還差不多，可舉目有江河之異。」大家都相視而泣。惟王導神色肅然地說：「大家應振奮起來效力於王室，收復神州土地，怎麼能像可憐的楚囚一樣光會流淚哭泣呢！」大家這才收淚拜謝他的教誨。不久拜右將軍、揚州刺史、監管江南諸軍事，又遷驃騎將軍，加散騎常侍、都督中外諸軍、領中書監、錄尚書事，假節、刺史如故。王導因為看到王敦統率六州，堅決辭掉都督中外諸軍的職務。後又因其他事情的牽連除去了符節。
當時戰爭不斷，各地學校廢棄而未能得到興建，王導上書說：
「教化萬民的根本在於正人倫，正人倫的關鍵措施在於興辦學校。學校興辦起來了，人們才得以明曉五教之禮，道德禮法弘揚通達，倫理明而有序，人人知羞知恥守規守矩，父子之間、兄弟之間、夫妻之間、長幼之間關係順暢嚴謹，那麼君臣之間的大義就穩固了。《易》中所言『治好家也就能平定天下』就是這個道理。所以聖明的君王要從小培養正德，要接受正統的教育，使優秀的品德像雨露滋潤禾苗一樣在心中潛移默化，慢慢養成習慣形成性格，不自覺地納入善行，遠離醜惡，等有了完善的德行後，再登位掌管天下。雖然是王侯之子也應和國人之子一樣，先掌握了大道然後才算得上高貴。朝廷任人選士，都要看他們是否有道德學問的根底。古時的《周禮》說，卿大夫獻給國王的賢能之書，國王拜謝而受之，這就是尊崇大道而器重賢士的事例。人們都知道賢士之高貴是由於他們掌握了道，就會退而修養自身的德行並治其家，家事已正再到鄉里，在鄉中學業已成再進入朝廷。返本復始，每人都從自己做起，純樸敦厚的風氣越來越普遍，浮華虛偽的惡習漸漸消失，這都是教育的結果。人們如果這樣，對上侍君就會竭力忠誠，對下管民就會寬厚仁慈。孟軻說：『沒有仁者會遺棄自己的親人，義者會不盡忠於自己君王的。』就是這個道理。
「自從我朝綱常失於統理，頌德之專消歇，到如今已有二十多年了。古書上這樣說：『三年不為禮，禮必然會被破壞，三年不為樂，樂必然會殘缺不齊。』何況今天禮壞樂崩已有這麼久了。年長的人已忘掉了揖讓的禮節與氣度，年輕的只聽到過征戰殺伐之聲。天天都可以看到干戈橫舞的戰爭，以禮興教、尊祖祭神的俎豆之設卻見不到了。先王的大道離我們越來越遠，而浮華虛偽的風氣卻日益盛行。這種局面，可不是人們所說的使國家正本清源的好現象啊。殿下以才高一世之資。偏有多災多難的陽九之運，禮樂征伐兼而用之，才有希望實現中興大業。現確實應該以古人之法來治理天下，興學校提倡學業，以教導培養後進，讓他們逐步受到禮義的熏陶浸潤，使文王武王的聖明之道由衰微而重新振興，使被人遺忘的俎豆之禮得到恢復和張揚。當今敵虜勢力正強，國家蒙受的恥辱未能洗雪，忠臣義士們因此扼腕撫胸，鬱憤難消。若是禮儀制度牢固地確立了，淳樸的風尚漸漸形成，就會使眾人深受禮教的感化、廣被聖朝的恩德。使缺失的帝王典則得以補全，使廢弛的皇朝綱紀得以恢復，讓獸心者洗心革面，讓貪婪兇惡之徒收斂自己的性情。憑揖讓之舉使四夷臣服，以緩帶從容之姿使天下歸心。得到先王之道，這些還有什麼難的。古代的有虞舞干戚使三苗歸順，魯僖公作泮宮使淮夷賓服。齊桓、晉文的霸業，都是先教化而武力才得以成功。現今若是依照古代聖王的法則崇尚禮義教化之道，擇取朝中子弟入學，選拔博通禮學之士為師，成教化，定風俗，沒有比這更重要的事了。」
元帝司馬睿很高興地採納了王導的建議。
到元帝正式登基的時候，文武百官列隊陪侍，元帝讓王導上來和自己一起坐在御床上。王導堅決推辭，以致於元帝請了三四次，王導說：「如果太陽也和地下萬物一樣，那麼老百姓該到哪裡沐浴扁輝呢？」元帝這才罷了。晉封王導為驃騎大將軍、儀同三司。又以征討華軼的戰功封武岡侯，晉位侍中、司空、假節、錄尚書，領中書監。當時太山太守徐龕反叛，元帝訪求可以鎮守安撫河南的人，王導推舉太子左衛率羊鑒。不久羊鑒戰敗，受到處罰。王導上疏說：「徐龕叛逆，好長時間沒有受到誅罰，臣主張武力征討，推薦並委派了羊鑒擔此重任。羊鑒膽小懦弱喪師敗績，有司予以應有的處罰，聖上降天地之大恩，保全了他的性命。然而臣身負重任，總領全局掌握機要，使三軍受挫，這是臣的責任，請求對我予以貶黜，以嚴肅朝廷之法紀。」元帝下詔不許。隨後，代替賀循為太子太傅。當時中興局面處於草創之際，朝中未設史官，王導執政時開始設置，從此典籍史錄就較齊備了。其時孝懷太子司馬詮在胡遇害，於是也奉其名諱，有司奏喪禮的規格，天子舉三朝之哀，群臣一哭就可以了。王導認為皇太子是皇位的繼承者，普天下都有悲哀之情，應該也哀傷三朝而非僅僅是一哭。這一建議被採納了。等到劉隗在朝中得寵用事，王導和元帝的關係逐漸疏遠，但他一任自然安其本分，淡泊自如。有識之士都稱讚王導善於對待升沉興廢。
王敦反叛後，劉隗勸元帝盡誅王氏家族之人，人們議論紛紛，都為之擔心。王導率族中兄弟子侄二十餘人，每天天亮時到台閣處等待議罪領罰。元帝因王導素來忠誠正直，特地還給他朝服，並召見了他。王導叩首答謝說：「叛臣賊子，哪個朝代沒有呢，但想不到會出在我們王氏家族中。」元帝赤著腳走下來拉著王導的手說：「茂弘，我正要托付公侯之命與你，你怎麼說這樣的話呢。」於是下詔說：「王導以大義而滅親，可以把我任安東將軍時的符節授予他。」到王敦得勢的時候，任王導為尚書令。當初，西都淪陷，海內都盼望明主，群臣及四方郡國都勸元帝登基就大位。其時王氏家族正興盛，有專天下之權的野心，王敦畏懼元帝賢能，準備違背人們的公議另立他人，王導堅持力爭才沒能實行。及這次奪權之爭，王敦對王導說：「當初不聽我的話，這次差點滅族。」但王導仍堅持當初的主張，王敦沒有辦法讓他改變態度。
自從漢魏以來，朝廷賜謚號多是依據其人的封爵，有人雖然地位高德行聲譽重，因沒有爵位，按例不加封謚號。王導上疏說：「武職官員有爵必定加謚，而卿校常伯等官因無爵不得其謚，這種做法不符合賜謚制度的本意。」這一建議被採納。自此以後，公卿等文職官員沒有爵位的也可加封謚號，這都是王導提議的結果。
當初，元帝喜愛琅王牙王司馬裒，有以他取代長子司馬紹的想法，去徵求王導的意見。王導說：「立太子都是立長子，而且司馬紹也很賢明，不應當隨意改變。」元帝還是猶豫不決。王導天天勸諫，太子的名分才得以確立。
到明帝司馬紹即位時，王導奉元帝遺詔輔佐朝政，解除揚州刺史職務，遷官司徒之位，依照曹魏時陳群輔佐魏明帝的先例。後王敦領兵向京師逼進，當時王敦正患病，王導率族中子弟為王敦發喪，大家都以為王敦已死，於是膽氣倍增鬥志高昂。明帝討伐王敦，使王導假節，都督諸軍，領揚州刺史之銜。王敦被討平，王導晉封為始興郡公，食邑三千戶，賜絹九千匹，進位太保，司徒之職依然如前，特許他帶劍上殿，入朝不拜，禮讚時不呼其名。王導堅決推辭不受。明帝駕崩，王導又和庾亮等人一同受遺詔，共同輔佐幼主，就是成帝司馬衍。為王導加羽葆鼓吹儀仗，班劍二十人。石勒之兵侵犯阜陵，下詔加封王導為大司馬，假黃鉞勒之儀仗，出兵討伐。軍隊停留在江寧，成帝親自在郊外為之餞行。不久敵人退走，王導解除大司馬之職。
庾亮準備下詔召蘇峻，和王導商議此事。王導說：「蘇峻奸詐多疑，必定不肯奉詔前來。山川原野中，可以躲藏毒蟲猛獸，蘇峻在外，還不至於馬上發難，應暫時包容不驚動他。」王導力爭，庾亮不聽，終於詔請蘇峻，接著禍亂就發生了。朝廷六軍戰敗，王導進入宮中侍衛成帝。蘇峻因王導德高望重，不敢加害，仍讓他官居原職處於自己位置之上。蘇峻逼迫成帝駕幸石頭城，王導竭力爭執不起作用。蘇峻天天在成帝面前放肆地胡言亂語，王導擔心會有不測之禍。當時蘇峻部下路永、匡術、賈寧都勸說蘇峻，要他殺掉王導，盡誅朝中大臣，重新安置上自己的心腹。蘇峻敬畏王導，不聽他們的勸告，因此路永等人和蘇峻產生了矛盾。王導派參軍袁耽暗中開導、誘勸路永等人，謀劃讓成帝潛逃出來投奔陶侃、溫嶠的義軍。由於蘇峻防守看護甚嚴，事情未能成功。王導只好帶著兩個兒子隨路永逃奔到白石。
蘇峻之亂平息後，宮廷宗廟都被焚為灰燼。溫嶠建議遷都到豫章，東吳之地的豪傑們請求定都於會稽，這兩種意見爭來爭去，不知哪樣為好。王導說：「建康，古時的金陵，過去就是帝王之都，而孫仲謀、劉玄德都說這裡是帝王之宅。古代帝王不必因簡陋豪華而移都，如果能弘揚衛文公以大布之衣大帛之冠為君的風尚，則可無事不成。若不勤勉耽於安樂，即使找到一塊樂土，也會變成廢墟。況且北方敵寇像遊魂一樣，窺伺我們的空隙，我們一旦有膽怯的表現，跑到南越之地，再想得到威望和實力，恐怕是難以辦到。現在應該特別鎮靜，這樣民情便可自安了。」由此溫嶠的計劃未能實施。
王導善於根據具體情況靈活辦事，雖然每天開支用度沒有寬余，可一年總還有些節餘。當時朝廷財政枯竭庫藏空虛，只有粗絲布幾千端，出售到市上卻無人購買，因而朝廷開支非常困難。王導很著急，就和朝中的一些名賢都用這種粗布做衣裳，於是人們紛紛倣傚他們也穿這種衣服，這些布匹的價錢一下子就貴了起來。這才令主管者去賣，每端布賣到一兩金。王導就是這樣被人仰慕。
鹹和六年(331)冬，舉行冬祭，下詔將祭品送給王導，並說「不必下拜。」王導連連推辭不敢承受。當初，成帝年幼，每次見到王導，都要下拜。又曾在給王導的詔書上寫著「惶恐地說」這樣的話，中書省起草的詔書，則稱「敬問」，這以後就成了定規。後來正月初一，王導入朝，成帝還親自起來迎接。
當時天下大旱，王導上疏請求退職。詔書說：「聖明的君主管理天下，行動都要合乎天道，舉止不能偏離了規則，這才能使人倫肅整，萬物生長順利。我肩負祖宗基業的重任，受著王公的推舉輔佐，但不能繼承仰接古聖王的遺風，使宇宙萬物平安，造成天旱日久，萬民憂愁怨胥，國家的不幸，責任在我一人。郡公賢明通慧，精於道博於理，才志弘大深遠，功蓋四海，輔助朝政已有三代，國家之典則沒有廢亡，都是由於郡公像仲山甫那樣輔佐的結果。而現在貶低自己的功績，引咎自責。現在把元首的過失，移給宰輔大臣來承擔，這更會增加我的過錯。國家治理的萬千事機，不可一日不理，明公應該放下謙虛禮讓的個人品節，而承擔起治世經國的大任。門下省速遣侍中以傳達我的誠意。」王導堅決地推讓，朝廷數次下詔懇請，然後才繼續執掌朝政。
王導平素儉樸寡慾，倉中沒有積蓄的糧米，穿衣不同時穿兩件帛衣。皇帝知道後，送給他布萬匹，以供他私人開支。王導體弱患病，出席不了朝會，皇帝就親自到他府中，置酒設樂，然後用輿車將他接到殿裡，皇帝就這樣敬重尊崇他。
石季龍的軍隊出來侵掠到了歷陽，王導請求出征討伐。朝廷加大司馬職，授黃鉞節杖，領中外諸軍事，設置左右長史及司馬，供給布萬匹。敵人隨即退走，解除大司馬職，又轉任中外大都督，進升太傅之位，又拜丞相，依照漢朝制度，罷去司徒之設，以職權歸於丞相。晉封的符命上說：「朕過去常常遭到不幸，登上帝位，又正值多災多難之際，禍亂一件接一件發生。公經文有九職之功，興武有禁暴、戢兵、保大、定功、安民、和眾、豐財之七德，外安定四海，內整頓八政，天地得以平安，人神和諧，其功業如同伊尹，其道德可比姬旦。追慕古時的唐堯虞舜，重用俊傑之人，隆重地任命群臣，誠然安治，眾人都有功績。朕也希望依憑公的深廣的謀略，依靠公的傑出的智慧，以古代的這種設置銜位授予上公，使之永遠輔佐晉朝。願公接受委命行使職權，謹慎地遵循古人的道德遺訓，以盡天職，這正是美政之所在呀，願明公以此為鑒。」
這一年，其妻曹氏去世，朝廷追贈以金章紫綬。當初，曹氏性格嫉妒，王導非常畏懼她，於是暗中在別處置下館舍，以安置其他的姬妾，曹氏知道後，要親自去查看。王導深怕姬妾們會受到曹氏的凌辱，命人馬上準備車駕趕去，還怕速度太慢，用手中拿的拂塵柄當鞭子趕牛奔跑。司徒蔡謨聽說這事後，取笑王導說：「朝廷恐怕要為公加九錫了。」王導不予理會，只是謙恭地走開算了。蔡謨又說：「我沒聽說過別的什麼東西，只知道有短轅的牛車，長柄的拂塵。」王導這才大怒，對人說：「我和各位賢能一起在洛陽遊玩時，哪裡聽說過這個姓蔡的小子！」
當時庾亮因為名望高而所轄地盤狹窄，於是出鎮外地。南蠻校尉陶稱挑撥說：「庾亮一定會舉兵向內。」勸王導暗中要提防。王導說：「我和庾元規休戚與共，這些無根無據的議論，不應當出自智者之口。如果就像你說的那樣，庾元規真的領兵打進來，我就頭戴角巾穿上便服回家，有什麼可擔憂的？」又給陶稱寫信，說因為庾亮是皇帝的大舅，應該盡心盡力侍奉。這樣一來，挑撥的謠言就平息了。當時庾亮雖鎮守於外，但還執掌著朝政大權，又據於上流之形勝，手握強兵，一些順風轉舵的人都投奔他。王導在朝中心內不平，常常在刮起西風的時候，用扇子擋起風塵，慢吞吞地說：「庾元規吹起的灰塵把人弄髒了。」
自漢魏以來，群臣不拜皇帝的陵墓，王導因和元帝親密得如同布衣之交一樣，不僅僅只是君臣關係，每一次提拔封賞，都到陵前拜祭，不勝悲哀。由此下詔百官拜帝王之陵，這是由王導開始的。
鹹康五年(339)，王導去世，時年六十四歲。皇帝在朝堂上為之舉哀三天，派遣大鴻臚持符節監護治喪之事。喪者的衣衾服飾、棺槨車馬，一律按照漢博陸侯霍光和本朝安平獻王司馬孚的喪葬規格，安葬時，賜給九游鍂車京車、黃屋左纛、前後羽葆鼓吹、武賁班劍百人，中興以來的名臣沒有誰能夠相比。朝廷追悼的冊書說：「高位用來酬射大德之人，厚爵用來報答大功之人。至於蓋棺定論，追述一生的行跡，給予應有的崇高謚號，使之英名流傳百代，就是因為這些。惟公心胸開朗豁達，心居玄冥之處，覽知萬物，淡泊無慾約束自己，仁義體民廣佈恩惠。流連於塵務之外，英名傳遍華夏，隱於世外等待機遇，暗中運籌謀劃。過去我中宗元皇帝、肅祖明皇帝基業初定中興之始，以誠信託重任於深居之中，於是謀劃指揮以定江東，拱手無為靜心而治，使眾臣盡力政績顯著。其威望之所振動，能使邪惡的人改邪歸正，盛千之感化，能使惡獸木壽杌改變其凶性。順天地之理調和陰陽，依人倫之禮肅順秩序。遙遠的遼東隴西都承其風教，南方丹穴之地也都望影而歸附。這樣蓋世的奇功，使人們復興了宣皇帝、武皇帝的業績，國家神器得以保全，全是公的智慧決策。還有公受詔負命，保著我這幼童登基，遭到一次次的艱難坎坷，都化險為夷，轉危為安，把將要淪墜的局面扭轉過來，把即將傾倒的大廈扶正並廣施仁政。經緯三朝之政其德其影響深遠。正要依靠你的才德，以安定四海，誰知蒼天不同情我，突然間你就薨殂而去，我心內無比的悲痛。就是殷失去了宰相伊尹，周失去了周公召公，也不會比我更難受了。今特遣使持節、謁者僕射任瞻錫謚號為文獻，祠以太牢。你的魂魄有靈，請來接受這種殊榮吧。」
王導的兩個弟弟：王穎、王敞，年少時和王導一樣知名，當時人們以王穎比溫嶠，以王敞比鄧攸，兩人都早卒。王導有子六人：王悅、王恬、王洽、王協、王劭、王薈。