呂僧珍字元瑜，東平范縣人，世代居住便陵，家裡很貧寒。小時候從師學習，有相面人看遍了眾學生，指著僧珍說：「這孩子聲音不同尋常，是封侯之相。」在蕭順之那裡作門下書佐。身長七尺七寸，容貌魁偉，同僚都很敬重他。蕭順之作豫州刺史時，任命他為典簽，兼任蒙縣令。蕭順之升任領軍將軍後，補任他為主簿。唐禹之進犯東陽，蕭順之率兵東討，讓僧珍主管行軍各局的事務。僧珍家在建陽門東，自從領受命令擔當職務後，每天從建陽門過，都不進自己家門。蕭順之因此對他更加瞭解信任。司空陳顯達出兵沔陽北，看到他而招呼他入座，對他說：「你有貴人相，最終也不會遭貶抑，要好好努力。」
齊建武二年(495)，魏軍南攻，五路並進。蕭衍率軍援助義陽，僧珍隨從在軍中。當時蕭懿為梁州刺史，魏軍圍困數月，義陽和雍州道路被截斷。蕭衍想派使者到襄陽，打聽梁州的消息，眾人沒人敢去，僧珍卻堅決要求擔任使節，當天駕一條小船上路。等到襄陽，督促派遣援軍，又拿到蕭懿的書信返回，蕭衍對他十分讚賞。
齊東昏侯即位，司空徐孝嗣管理朝政，想讓僧珍和他一塊共事，僧珍知道齊朝不久就要敗亡，終竟沒有去。蕭衍到雍州後，僧珍堅決要求西歸，於是朝廷讓他補了一個己縣令。等到任後，蕭衍任命他為中兵參軍，把他當作心腹骨幹。僧珍偷偷地蓄養為他效力賣命的人，投奔他的人很多。蕭衍也招攬勇武之士，上下響應，聚集了萬餘人。然後命人勘察城西空地，計劃蓋幾千間房屋作為駐紮之處。砍伐很多竹材，沉在檀溪裡，積蓄的茅草堆得像小山，都沒有派上用場。只有僧珍明白他的心意，於是私自準備了幾百隻船槳。等蕭衍起兵時，把檀溪裡的竹子都取了出來，打造成戰船，上邊用茅草覆蓋，都很快辦齊了。軍隊將要出發，眾將士需要船槳很多，僧珍把他先前準備的拿出來，每船發給兩隻，爭奪才算停息。
蕭衍任僧珍為輔國將軍、步兵校尉，出入他的臥室，傳達他的意旨。大軍駐在江寧，蕭衍派僧珍和王茂率精兵先登赤鼻邏。那天，東昏侯大將李居士來戰，僧珍等人大敗了他，於是與王茂進軍白板橋，築起城壘後，王茂移軍駐越城，僧珍守白板。李居士知道城內兵少，逕直前來迫近城壘。僧珍對將士們說：「現在我們力量敵不過他們，不可交戰，也不要遠射。一定要等他們進到壕塹裡面，再努力打敗他們。」不久敵軍都越過壕塹，僧珍分派人上城，自率馬步軍三百人出擊敵人背後，內外一齊夾擊，居士等人立時奔逃潰散。等到武帝受禪，任命他為冠軍將軍、前軍司馬，封平固縣侯。又升任左衛將軍，加散騎常侍，進入秘書省當班，總管皇宮警衛。
天監四年(505)，梁朝大舉北侵，從此僧珍白天到中書省值勤，晚上回秘書省。五年退兵，以他的本官職銜擔任太子中庶子。
僧珍離家日久，上表請求回家祭掃墳墓，武帝想讓他作家鄉的長官以增其榮耀，於是委任他為南兗州刺史。僧珍在任上，與士大夫相見迎送注重禮節，對下屬一視同仁，對親戚不徇私情。兄弟們在外堂時，都不讓入座，指著客座對他們說：「這是兗州刺史的座位，不是呂僧珍的座位。」等到了別的房內，便促膝而坐一如往常。他的一個堂兄弟原來以賣蔥為業，僧珍到任後，就棄業要求在州里作官。僧珍說：「我蒙受國家重恩，沒有什麼可報效，你們各有自己的本分，怎能有非分要求。應該趕快回到蔥鋪裡去。」僧珍舊宅在城北，門前有督郵官署，人們都勸他把督郵官署遷走來擴大自己的宅院。僧珍發怒說：「怎麼能挪動朝廷官署來擴大我的私宅呢！」他的姐姐嫁給于氏，住在城西臨街的小屋裡，和做買賣的鋪子雜處。僧珍經常由隨從帶路到姐姐家去，並不以此為恥。
在南兗州百日後，徵召回京作領軍將軍，和先前一樣在秘書省任職。經常用自己的車子運水灑宮內道路。僧珍立有大功，又是朝廷心腹骨幹，但性情恭敬謹慎。在宮內值班，盛夏也不敢解衣。每當在御座前侍候，都是屏氣躬身，對瓜果食物從未動過筷子。有一次因為喝醉後拿了一個柑子來吃，武帝笑著對他說：「你今天真是大有長進。」除正常的俸祿外，又每月給他十萬錢，其餘的賞賜經常不斷。
當初，武帝起兵時，久攻郢州不下，眾人都要北撤，只有僧珍不肯，過了好幾天才順從大家。一天夜裡，他忽然頭疼發燒，等到天明額骨更大了，恐怕是他的骨相異於常人。
天監十年(511)，僧珍病重，武帝車駕親臨探視，宮廷使者送醫藥每天有三四次。僧珍對親友們說：「我從前在蒙縣發熱病，當時認為一定不行了。主上對我說，『你有富貴相，必定死不了』。不久果然痊癒。我如今已經富貴，而又發熱病，其病症和那時恰恰一樣，必定不能再好了。」後來果然像他說的那樣死在領軍的官捨裡。武帝當天就親臨問喪，贈驃騎將軍、開府儀同三司，謚為「忠敬」。武帝痛惜他的死亡，說起他來就掉淚。他的兒子呂淡繼承其位。
起先，宋季雅被罷免南康郡守，在僧珍住宅旁買下房子住。僧珍問他房價，回答說「一千一百萬」。僧珍奇怪價錢怎麼這麼貴，季雅說：「一百萬買房子，一千萬買鄰居。」僧珍生兒子時，季雅去道賀，在禮封上寫「錢一千」。把門的認為太少，不給他通報，他一再要求才能進門。僧珍對此懷疑，親自拆封，原來是金錢。於是對武帝說起此事，陳述他的才能，武帝使他作壯武將軍、衡州刺史。宋季雅將要赴任時，對他的親近人說：「不可以辜負呂公。」在衡州任上幹得很有成績。