向雄字茂伯，河內山陽人。父親向韶，是彭城太守。向雄當初在郡內作主簿，給太守王經做事。王經死後，向雄哭得很傷心，市人很為之悲傷。後任太守劉毅曾經無故鞭笞向雄，後來吳奮代替劉毅任太守，又因小小的譴責把他關進監獄。司隸鍾會把向雄從監獄裡徵召出來當都官從事，後來鍾會死了無人收殮下葬，向雄迎喪並安葬了他。文帝司馬昭召見向雄並責備他說：「以前王經死了，你在東市哭他，我不問罪。現在鍾會叛逆，你又收殮安葬，我如果再寬容你。把王法用到哪裡？」向雄說：「從前先王掩埋刑人的骨骼屍體，仁德潤澤朽骨，當時難道先占卜功過然後才安葬嗎？現在刑法已施行，按照法令已經完備了。我為道義所感化而收葬他，道義教化也沒有過錯。法令在上面制定，教化在下面發揚，為什麼一定要讓我立身於違背生死常理的時代呢？殿下把他的枯骨棄在荒野，作為將來的仁人賢士的口實，不也太可惜了嗎？」文帝很高興，與他交談並飲宴後才讓他回去。
累遷為黃門侍郎。當時吳奮、劉毅都是侍中，一同在宮廷門下，起初向雄不與他們說話。武帝知道後，敕令向雄應恢復君臣的友好關係。向雄迫不得已，便到劉毅家裡，拜見之後說：「早先接受了詔命，君臣之義已絕，怎麼樣？」接著便離去。武帝聽說後大怒，責問向雄：「我讓你恢復君臣友好關係，你為什麼故意絕交？」向雄說：「古代的君子用禮義引薦人，用禮義摒退人，現在引薦人如同把人放在膝蓋上，摒退人如同把人墜入深淵。劉河內我不成為敵人，已經是很萬幸的了，又怎麼能恢復君臣友好關係呢？」武帝同意了。
泰始年間(265～274)，累官任秦州刺史，給他紅色旗幟、曲柄傘、鼓吹等儀仗，賜他二十萬錢。咸寧初年(275)，入朝為御史中丞，遷為侍中，又出朝為征虜將軍。太康初年(286)，任河南尹，賜爵關內侯。齊王司馬攸打算回到封國，向雄向天子進諫道：「陛下雖然子弟多，可是有名望的人少。齊王守在京城，獲益的確很多，不可不思量。」天子不採納。向雄極力進諫，違背聖旨，向雄逕自出宮，因憤懣而死。
其弟向匡，惠帝時當護軍將軍。