何曾字穎考，陳國陽夏人。父親何夔，是魏朝太僕、陽武亭侯。何曾少年襲爵位，好學博聞，與同郡袁侃齊名。魏明帝做平原侯時，何曾為平原侯文學。魏明帝即位，多次陞遷為散騎侍郎、汲郡典農中郎將、給事黃門侍郎。曾向皇帝上疏請求整頓地方官吏，以安百姓(原文略)。不久，遷為散騎常侍。
宣帝司馬懿將伐遼東，何曾向魏帝上疏請求派遣監軍或副將同行，以防意外(原文略)，魏帝沒有接受這個意見。後來出補河內太守，在任期間素有威嚴的稱譽。後徵入朝中作侍中，母親去世時，離職守喪。
嘉平年間(249～254)，為司隸校尉。撫軍校事尹模，倚仗權勢，作威作福，巧取豪奪，朝野人士都懼怕他，無人敢言。何曾上奏朝廷，彈劾尹模，受到朝中大臣的稱讚。當時曹爽專權，宣帝以病為由不涉朝政，何曾也稱病引退。曹爽被殺，他才起來履行公事。魏帝被廢黜，何曾也參與了謀劃。
當時步兵校尉阮籍自負有才，行為放蕩，為母居喪不守禮制。何曾在文帝司馬昭面前當面質問阮籍說：「卿放縱情慾違背禮制，是傷風敗俗之人，當今忠賢之臣執政，對臣僚要根據名實綜合考核，像卿這種做法，是不可提倡的。」事後又對文帝說：「您正以孝治天下，卻聽憑阮籍守喪期間在您座旁飲酒吃肉。應該把他放逐到荒遠的邊疆，不要讓他污染華夏。」文帝說：「此人如此瘦弱多病，君不能看在我面上容忍他嗎？」何曾又引經據典，指責阮籍，辭理很嚴厲。文帝雖然沒有聽他的，當時人們頗為敬畏他。
毋丘儉被殺，他的兒子毋丘甸、妻子荀氏應株連處死。荀氏的族兄荀豈頁、族父荀虞都與景帝司馬師有姻親關係，共同向魏帝上表，乞求饒荀氏命。魏帝下詔讓荀氏離婚。荀氏所生女毋丘芝為穎川太守劉子元妻，也株連判死刑，因懷孕囚於監中。荀氏去信向何曾求情說：「毋丘芝囚在廷尉獄中，命運可知，死亡計日可待。我請求去做官婢，以贖毋丘芝一命。」何曾哀憐他們母女，上遞狀辭請求復議，朝廷議論都以為何曾的意見正確，於是修改了法律條文。何曾等語在《刑法志》中。
何曾在司隸任職多年，遷升為尚書。正元年間(254～256)，為鎮北將軍、都督河北諸軍事、假節。將要赴任，文帝讓武帝司馬炎、齊王司馬攸送數十里。何曾為賓客準備了有太牢的豐盛宴席，侍從吏卒無不吃飽喝醉。武帝從何曾那裡出去，又去拜訪何曾的兒子何劭。何曾事先訓誡兒子說：「客人一定會拜訪你，你事先要做好周密準備。」何劭不戴冠不束帶，讓武帝留在他住處很久，何曾嚴厲訓斥了何劭。何曾就是這樣受到司馬氏的器重。後來遷為征北將軍，晉封為穎昌鄉侯。鹹熙初(264)，拜為司徒，改封為朗陵侯。司馬昭做晉王時，何曾與高柔、鄭沖都是三公，入見晉王時，何曾獨自下拜，以表示最高敬意，高、鄭二人僅作揖罷了。
司馬炎繼承晉王位，以何曾為晉丞相，加侍中，與裴秀、王沈等勸晉王稱帝代魏。晉王受禪即帝位後，拜何曾為太尉，晉爵為公，食邑一千八百戶。武帝泰始初年(265)，皇帝下詔(詔文略)，任命何曾為太保。過了很久，又讓何曾以太保本官兼司徒。何曾堅決辭讓，皇帝不許，派遣散騎常侍以聖旨告諭，何曾才就職。後又進位太傅。
何曾因為年老，多次請求讓位。皇帝下詔不許，並說：「..鑒於司徒所掌管的事務繁多，不可久勞老臣，現晉何曾為太宰，侍中如故。朝會時可佩劍、穿薄底鞋、坐轎子上殿，如漢相國蕭何、田千秋、魏太傅鍾繇的例子。賜給錢一百萬，絹五百匹，八尺的床一張，以及與床相配套的帳、席、褥。府中置長史、掾屬、祭酒及員吏，按舊制行事。所供給的親兵官騎和從前一樣。主管此事的人按典制依次配置，務求優厚完備。」以後每次召見，令其自帶平時喜歡的飲食衣服器物，使兩個兒子侍從。
咸寧四年(278)，何曾死，終年八十歲。武帝在朝堂穿孝服哀悼，賜給棺材一副，朝服一具，衣服一套，錢三十萬，布一百匹。將葬時讓禮官議論何曾的謚號，博士秦秀提議謚為「繆丑」，武帝不採納，下策命謚為「孝」。太康末年(289)，何曾之子何劭自己上表改謚為「元」。
何曾性極孝，閨房私事也很嚴謹，從少年至成年，不追求聲色享受。年老之後，與妻子相見，總是衣冠整齊，相待如賓。自己南面而坐，妻子北面再拜，然後上酒，飲酒罷即出去。一年中如此見面應酬不過兩三次。司隸校尉傅玄曾經撰文稱讚何曾與荀豈頁的孝行(傅文略)。
然而何曾又喜好豪華奢侈，衣食陳設務求奢華。帷帳車服都奢華綺麗到極點，膳食滋味超過帝王之家。平時在宮中與皇帝聚會，不吃宮中太官所設的飲食，皇帝常派人到他家取他喜歡吃的食物。蒸餅上不做十字樣的花紋就不吃。他的伙食一天要花一萬錢，他還不滿意，說：「沒有值得下筷子的東西！」下邊人呈報文書如用小紙，他就令記室不要上報。劉毅等人多次上奏彈劾何曾奢侈無度，武帝以為他是重臣，從不過問。
都官從事劉享曾上書彈劾何曾奢華，用銅鉤和絲帶拉車，在牛的蹄角上裝飾美玉。後來何曾徵召劉享作掾屬，有人勸劉享不要應徵，劉享以為何曾會秉公辦事，不會借公事報私怨，即應召。何曾借一件小事，用棍棒把劉享痛打一頓，作為懲罰。此人表面寬厚而內心刻毒，多有類似這樣的例子。當時司空賈充權勢可與皇帝相比，何曾便低三下四，依附於他。賈充與庾純因飲酒發生爭執，何曾在評議這件事時，偏袒賈充而壓抑庾純，因而受到正直人士的非議。何曾有兩個兒子：何遵、何劭，何劭嗣爵。