元諧，河南洛陽人，世世代代富貴顯赫。
元諧生性豪爽，有氣節，有風度。
年少時與隋高祖一起在國子監讀書，非常友愛。
後因軍功，升任大將軍。
等到高祖任北周丞相，召他為近臣。
元諧對高祖說：「你沒朋友相幫，就像洪水裡的一堵牆，太危險了！請您注意努力啊！」尉遲迥作亂造反，派兵進犯小鄉，高祖派元諧打敗了他們。
等到高祖受北周禪讓，皇上對元諧笑著說：「水裡的牆到底怎麼樣？」於是賞賜酒宴，極盡歡樂。
元諧升任上大將軍，封樂安郡公，食邑千戶。
奉詔參加修改律令。
當時吐谷渾進犯涼州，皇上下詔任元諧為行軍元帥，率行軍總管賀婁子干、郭竣、元浩等步兵、騎兵幾萬反擊敵人。
皇上告諭元諧說：「您受朝廷委派，總領雄兵向西挺進，本欲自保邊境，保全百姓，並非貪圖他人疆土，禍害遠方人民。
王者的軍隊，旨在推行仁義。
吐谷渾賊人若到邊界，您應曉以德義，給以教導，誰敢不順服？」當時賊將定城王鍾利房率騎兵三千渡過黃河，連結黨項。
元諧率兵出鄯州，趕到青海，切斷了他的歸路。
吐谷渾率兵抵抗元諧，相遇於豐利山。
賊人騎兵二萬，與元諧大戰，元諧打敗了他們。
賊人駐兵青海，派太子可博汗率騎兵五萬掩襲官軍，元諧迎頭痛擊，打敗他們，並追擊三十多里，斬殺、生擒數以萬計，賊人十分驚恐。
元諧於是派人送上書信，曉以利害，吐谷渾名王十七人、公侯十三人，各率所部來降。
皇上十分高興，下詔書說：「褒獎才士貶抑庸人，有聞於前代。
元諧有見識，很機敏，文韜武略，譽滿朝野。
申張國威，開拓疆土，其深謀遠慮和高尚氣節，真是很符合我的心意。
應該予以禮遇，並賞及後人，現封元諧為柱國，另封一子為縣公。」元諧拜受寧州刺史，很有恩威。
但他剛愎自用，好排斥人，不能得到高祖近侍的歡心。
他曾對皇上說：「我一心一意侍奉皇上，不討他人歡心。」皇上說：「應該始終堅持這麼做。」後因公事免職。
當時上柱國王誼有功於國，與元諧一樣，都被免職，二人每每互相往來。
胡僧告元諧、王誼謀反，皇上調查此事，並無謀反證據，皇上安慰並放了他。
不久，王誼被殺，元諧漸漸被疏遠猜忌。
但因元諧是高祖登基前的朋友，所以每每請他上朝，皇上對他的恩典和禮遇並無虧損。
一次皇上大宴百官，元諧進言說：「陛下恩威遠播，我請求讓突厥可汗作侯正，讓陳叔寶當令史。」皇上說：「我平定陳國，以討伐罪人，安慰人民，並不是想耀武揚威於天下。
你的奏請，很不符合我的本意。
突厥人不知山川地理，怎能封侯！陳叔寶昏然如醉，怎麼能驅使他為國效力？」元諧默默而退。
幾年後，有人告元諧和他的從父弟上開府元滂、臨澤侯田鸞、上儀同祁緒等人謀反。
皇上下令調查此事。
有關部門上奏說：「元諧謀劃讓祁緒率黨項兵，準備切斷巴、蜀道路。
當時廣平王楊雄、左僕射高赹二人掌權，元諧想用讒言趕走他們。
他說：『左執法星動已經四年了，一上奏章，高赹必死無疑。』又說：『太白犯月，光芒相照，這徵候主殺大臣，楊雄必當應徵被殺。』元諧曾與元滂一起拜見皇上，元諧私下對元滂說：『我是主人，殿上的那個人是賊。』讓元滂望氣，元滂說：『他的雲氣好像是蹲狗走鹿，不如我們的雲氣有福有德。』」皇上大怒，元諧、元滂、元鸞、元緒一併被殺，並沒收家財，令其家人為奴。