梁武帝很欣賞呂僧珍的才幹。有一次，呂僧珍請求梁武帝讓他回鄉掃墓。梁武帝不但同意，而且任命他關南衰州.讓他光耀一下門庭。
呂僧珍到任後，不徇私情，秉公辦事。因公會客時，連他的兄弟也只能在外堂，不准進入客廳。一些近親，以為有了呂僧珍這樣的靠山，可以不再做買賣，到州里來見他，以謀取一官半職。呂僧珍耐心說服他們回去，繼續做自己的小生意。
呂僧珍住宅的前面，有一所他屬下的官舍，平時出入的人很多。有人建議他要那個屬下到別處去辦公，把官捨留下來祝呂僧珍嚴詞拒絕、表示決不能把官捨作為私人的住宅。
呂僧珍這種廉潔奉公的高尚品德，受到了人們的稱頌。有位名叫宋季雅的官員告老還鄉到甫袁州後，特地把呂憎珍私宅鄰家的一幢房屋買下來居祝一天，呂僧珍問他買這幢房子花了多少錢，宋季雅回答說：“共花了一千一百萬。”
呂僧珍聽了大吃一驚，反問道：“要一千一百萬，怎麼會這麼貴?”宋季雅笑著回答說：“其中一百萬是買房屋，一千萬是買鄰居。
呂僧珍聽後想了一會兒才明白，跟著笑了起來。