桓伊，字叔夏。父桓景，有用世濟時之才幹，官至侍中、丹楊尹、中領軍、護軍將軍、長社侯。
桓伊有軍事才略，聰慧過人，簡樸真率，為王蒙、劉炎所器重，多次參與各州府軍事，累遷大司馬參軍。當時前秦苻堅強盛，邊郡多戰事，朝廷選拔能禦敵邊疆的將帥，桓伊當選，被任命為淮南太守。因撫軍禦敵有方，晉陞為都督豫州之十二郡揚州之江西五郡軍事、建威將軍、歷陽太守，淮南太守之職依舊保留。與謝玄聯合打敗賊兵偏將王鑒、張蠔等，以戰功封為宣城縣子，又晉陞為都督豫州諸軍事、西中郎將、豫州刺史。及至苻堅率部南侵，桓伊與冠軍將軍謝玄、輔國將軍謝琰一道在淝水一帶大敗苻堅，以戰功封為永修縣侯，晉號右軍將軍，賜錢百萬，做袍表的布帛千端。
桓伊生性謙遜樸素，雖建有大功，但其性格作風始終未改。善於音樂，能曲盡其妙，為江左國朝第一。藏有一把蔡邕柯亭笛，常常自吹自賞。王徽之應召赴京師，行舟停泊在青溪側。桓伊與王徽之素不相識。桓伊從岸上路過，舟中客人稱桓伊乳名道：「此人就是桓野王。」王徽之便叫人上岸對桓伊說：「聽說足下善於吹笛，請試為我吹一曲。」桓伊當時已經顯貴，也曾聞知王徽之的聲名，便默默下車，坐在交椅上，為王徽之吹奏三調，吹罷，便起身上車離去，主客之間一句話也未交談。
其時謝安女婿王國寶專權擅利行為不檢，謝安討厭其為人，常對他加以約束限制。孝武帝到晚年，嗜酒成性，且好女色，而會稽王司馬道子更是昏婬無度，惟親近諂邪小人，於是王國寶惡毒讒言害人奸計往往得逞於君臣之間。而好利邪諂不正之徒忌恨謝安功名蓋世，便挑撥離間，使天子賢相之間疑心漸重矛盾愈深。孝武帝召桓伊飲宴，謝安侍坐於旁。孝武帝命桓伊吹笛。桓伊神色順從，即刻拿起笛吹奏了一曲，然後放下笛子說：「愚臣彈箏不及吹笛，但也足以自成樂調，配合歌唱，請允許愚臣彈箏歌唱，並請一人來吹笛。」孝武帝欣賞其樂調和諧通暢，便命令內宮歌妓吹笛伴奏。桓伊又說：「內宮歌妓與愚臣必定配合不好，愚臣有一奴僕，善於配合吹奏。」孝武帝更加欣賞其性情的放達直率，便允許他召來奴僕。奴僕吹奏笛管，桓伊便彈箏而歌唱《怨詩》道：「為君既不易，為臣良獨難。忠信事不顯，乃有見疑患。周旦佐文武，《金滕》功不刊，推心輔王政，二叔反流言。」其聲調節奏慷慨悲愴，上下共賞，感人心弦。謝安不禁抽泣流淚以致沾濕了衣襟，起身坐到桓伊旁，用手理順桓伊的長鬚道：「僅就此舉足見足下不同於常人！」孝武帝面露愧色。
桓伊治理豫州十年，安撫邊郡百姓，甚得人心。桓衝去世後，朝廷任命桓伊為都督江州荊州十郡豫州四郡軍事、江州刺史，將軍職號不變，持符節。桓伊到江州鎮所，以為邊境平靜無戰事，應以寬慰撫恤為當務之急，便上疏朝廷認為江州虛損過大，加上連年歉收，如今所剩住戶只有五萬六千，應合併小縣，免除各郡拖欠的官米，將州府治所遷到豫章。詔令將州府治所移遷到尋陽，其餘主張皆依從桓伊。桓伊順理荒政，拯濟撫恤災民，百姓信賴。在地方任職多年後，朝廷徵召回京，拜官為護軍將軍，以右軍府中千人跟隨桓伊，配備到護軍府中。桓伊死於任職上。朝廷追贈為右將軍，加散騎常侍，謚號為烈。
當初，桓伊有馬軍步軍鎧甲六百套，預先寫好奏表，讓親信在他死後呈上朝廷。奏表說：「臣深受朝廷恩寵，受命經略西藩。淮南大戰時，敵寇倉惶北逃，人馬器械，隨處拋棄。當時收集了許多殘破不全的器械，無法連貫一體加以使用。經過多年修理，現已全部修整完好。當今天下雖然大體一統，但余寇仍未消滅淨盡，臣不甘心老朽衰邁，還想獻力獻策拚死效命，上報皇恩。這一志向再也不能伸展，臣在九泉之下含恨悲傷。謹以此馬軍裝備百具，步軍鎧甲五百套奉獻朝廷，皆放置於尋陽，請勒令有關部屬前往領受。」朝廷降詔道：「桓伊忠誠報國，大志不遂，令人傷懷，遵其遺志接受所上鎧甲馬裝。」
桓伊去世後，其子桓肅之承襲爵位。桓肅之去世後，其子桓陵襲爵。劉裕接受禪讓建立劉宋後，其封地被取消。桓伊之弟桓不才，也具有用兵的謀略，討伐過孫恩，官至冠軍將軍。