庾杲之字景行，新野人。祖父庾深之，位居義興太守，以善政而聞名。父親庾粲是南郡王劉義宣的丞相城局參軍，南郡王起兵，他被殺害。
庾杲之幼年就很有孝行，宋朝的司空劉面力見到他認為很奇異，對他說：「見到您足以使江漢一帶仰望，優秀人才聲名遠揚。」初次做官擔任奉朝請，逐步陞遷為尚書駕部郎。家業清貧，吃的只有醃韭菜、煮韭菜、生韭菜等。任窗曾經給他開玩笑地說：「誰說庾郎貧窮，吃菜曾經有三九(韭)二十七種。」
他經過多次調動擔任了尚書左丞。王儉對別人說：「過去袁公做衛軍，想用我為長史，雖然沒有做成，關鍵是他曾有這種意向。現在也需要像我們這樣的人。」於是任用庾杲之為衛將軍長史。安陸侯蕭緬給王儉寫信說：「貴府的僚佐，實在難以選拔。庾景行泛淥水，依芙蓉，多麼美麗啊！」當時的人把入王儉府比作蓮花池，所以蕭緬寫信讚美他。
他歷任黃門吏部郎，御史中丞，參與大選。他容貌美好，善於談笑。曾經兼任侍中夾侍，柳世隆在皇帝那兒坐，對齊武帝說：「庾杲之被蟬冠所輝映，更加富有華彩，陛下所以應當讓他真地成為貴近朝臣。」皇上很高興，王儉則說：「國家因為庾杲之清美，所以允許他假借官職。如果讓他真地任職，應當在胡諧之的後面。」
武帝曾經與朝臣商議，一次酒後他對群臣說：「我以後應當得到什麼樣的謚號？」群臣沒有人回答。王儉於是眼睛看著庾杲之，庾杲之從容地說：「陛下壽比南山，正與日月齊明，千載以後，難道是臣子們輕易可以衡量的嗎？」當時的人都很稱讚他雄辯的對答。
庾杲之曾經兼任主客郎對答魏朝的使者，使者問庾杲之說：「百姓們怎麼能夠家家寫門帖賣宅子？」回答說：「朝廷既然要掃蕩京洛，克復神州，所以才家家賣宅子。」魏朝的使者縮著鼻子而不回答。
當時諸王年少，不能輕率地稱讚和接待別人，詔令庾杲之和濟陽的江淹五天一次去到諸王那裡去，讓他們交遊通好。庾杲之又陞遷為尚書吏部郎，參大選事務，太子右衛率，加任通直常侍。永明九年(491)去世，皇上非常惋惜，謚號為貞子。