鄭羲，字幼駘，滎陽開封人，曹魏將作大臣鄭渾的八世孫。曾祖鄭豁，慕容垂政權的太常卿。父鄭曄，不做官，娶長樂潘氏為妻，生有六個兒子，都粗有志氣，而鄭羲排行第六，文學為優。少年時被舉為秀才，尚書李孝伯把女兒嫁給他。高宗末年，朝廷拜授他為中書博士。
天安初年(466)，劉..的司州刺史常珍奇舉汝陽來降朝廷，顯祖下詔讓殿中尚書元石為都將前去迎降，並招慰淮、汝，派鄭羲參預元石軍事。到上蔡之後，常珍奇率領文武官員三百人前來迎接，相見後，大家商議要把軍隊駐紮在汝水以北，並不馬上入城。鄭羲對元石說：「軍機之事，貴在神速，而今珍奇雖然來了，但意圖不明，我不如直入其城，奪其要害，據有府庫，雖然這樣做並非出自我們的初衷，但我們的目的是要全面控制局勢。」元石接受了鄭羲的意見，於是策馬逕自入其城池。城中還有珍奇親信兵馬數百人，駐在常珍奇宅第裡面。元石既克城池，意氣更加驕橫怠惰，只管置酒嬉戲，毫無警戒防備之意。鄭羲對元石說：「看常珍奇很有不平之色，應該嚴兵設防，以備非常之變。」這天夜裡，常珍奇果然派人焚燒府邸廂屋，意在救火時發難，因元石有備，只好作罷。第二天，鄭羲備白虎幡旗慰喻郭邑，大家心情才安定下來。
第二年春天，他們又領軍東討汝陰。劉..的汝陰太守張超據守的城池攻克不下，元石率領精銳人馬攻打，不克，於是退軍至陳、項，商量打算退軍長社，到秋天再行攻打。眾將都樂於早點回去，全都說這是好計策。鄭羲說：「現在張超驅使市民，挑著石頭，蟻聚窮困城池，其堅持的最長限度不會超過一個月，我們應該安心地守在這裡。張超糧食一完，不投降也會棄城而逃，我們可翹足以待，他自然會成擒拿之物了。而我們如棄圍還歸長社，長社路途遙遠，張超聽說必定修城深挖塹壕，多積穀薪，將來恐怕難以攻打了。」元石不聽，於是還師長社。到了冬天，又來攻打張超，張超果然有防備，他們只好無功而還。幾年以後，張超死了，楊文長代其戍守城池，食盡城潰，才攻下城池，竟如鄭羲所預計的相同。淮北平定之後，鄭羲遷升中書侍郎。
延興初年，陽武人田智度，年十五，妖惑動眾，擾亂京城。朝廷以鄭羲深得河南老百姓的信任，也為州郡長官所信，便派他前去安撫。鄭羲到該地以後，宣示禍福，重加懸賞，十天內，聚集的民眾紛紛歸去散開。智度奔逃穎川，不久就被擒拿斬殺。因功，鄭羲被賜予平昌男爵位，加授鷹揚將軍。
高祖初年，兼任員外散騎常侍，假寧朔將軍、陽武子，出使劉准政權。中山王元睿又，被當世君王寵幸，並置王官，鄭羲為其作傳。這以後，他便連年不轉官職，家產也十分短乏，因此請假歸家，便不回去了。等到李沖受寵顯貴，與鄭羲結成姻親之好，於是他又被起任為中書令。文明太后為自己父親燕宣王在長安立廟，初成後，任命鄭羲為太常卿，假滎陽侯，具官屬，到長安拜廟，破石造碑立於廟門。回來之後，以出使的功勞，仍賜侯爵，加授給事中。出使安東將軍、西兗州刺史，假南陽公。鄭羲多受賄賂，以賄成政。性情又很吝嗇，老百姓有給他送禮的，甚至連杯酒塊肉也不賞給別人，西門受人羊酒，東門便把東西賣了。因他是李沖的親家，執法官員也不糾劾他。酸棗令鄭伯孫、鄄城令童騰、別駕賈德、治中申靈度，都為官廉潔貞正，勤恤百姓，鄭羲都上表稱讚推薦他們，時論也稱讚他的行為。文明太后為高祖娶他的女兒為嬪，征拜他為秘書監。
太和十六年(492)去世，朝廷贈帛五百匹。尚書奏謚曰宣，詔書曰：「蓋棺定謚，先典成式，為的是激揚清濁，治道明範。以往何曾幼年有孝行，良史不改『繆丑』之名；賈充受寵於晉，直士猶立『荒公』之稱。鄭羲雖然素有文業，而為政缺少廉節清正的風範。查古代先例，其未光耀於朝策；貪財昧貨之談，已經流播民間。謚以善名，殊乖謚名初衷。又前歲之選，他所舉人才並不是備有品行然後才被舉選，自荷後任，功績未昭。尚書為什麼偏偏不能做到至平至公，愆失違背我朝明典！依據謚法：博聞多見叫『文』，不勤成名叫『靈』。可以贈謚於他，加謚文靈。」