徐陵，字孝穆。他母親臧氏，曾經夢見五色彩雲化為鳳鳥，停在自己的左肩上，後來便生下徐陵。當他幾歲時，家裡人帶他去問候僧人釋寶志，釋寶志撫摸著他的頭頂說：「這是天上的石麒麟啊！」光寶寺的慧雲法師總是感歎於徐陵的早熟，稱他為顏回。八歲時他能寫詩文，十三歲便通曉《莊子》、《老子》的本義。長大以後，博覽各種文籍，性情豪放而有口才。他父親徐離任晉安王諮議，晉安王又召徐陵參與寧蠻府軍事。晉安王被立為皇太子後，在東宮設置學士，徐陵也是其中之一。又遷任尚書度支郎。
後徐陵出任上虞縣令。御史中丞劉孝儀原先和徐陵有仇隙，他聽人傳說徐陵在縣裡貪污和收受賄賂，便彈劾他，於是坐罪免職。過了很久，又被任命為通直散騎侍郎。梁簡文帝在東宮時，撰寫了《長春殿義記》，讓徐陵寫序。又讓徐陵到少傅府撰寫自己所主持的《莊子義》一書。
太清二年(548)，徐陵兼任通直散騎常侍出使魏國，魏人在館內設宴請客。當天極熱，魏國主客魏收開玩笑地對徐陵說：「今天這樣熱，肯定是徐常侍帶來的。」徐陵隨即回答說：「以前王肅來到這裡，開始給魏國制定禮儀；今天我來聘問，讓你們又知道冷熱了！」魏收聽後，大感羞愧。當時齊文襄帝還擔任宰相，他認為魏收失言，便將他關閉了一整天。
當侯景入侵時，徐陵的父親徐離早就在圍城之內，他收不到父親的家信，便只吃素食，穿粗布衣服，就像服喪一樣。這時，正值魏國禪讓於齊，梁元帝在江陵承製，又派徐陵為使者和齊國通問。徐陵到齊以後，多次請求回南朝覆命，但齊國卻一直拘留他不讓回去。於是，他寫了一封信給僕射楊遵彥，但也沒有接到回復。當西魏討平江陵之後，齊國送貞陽侯蕭淵明繼承梁國國君之位，這才派徐陵隨他回梁。太尉王僧辯起初在邊境上攔阻不肯接納，蕭淵明反覆寫信，都是由徐陵撰文。當蕭淵明入梁之後，王僧辯得到徐陵，大為高興。任命他當了尚書吏部郎，兼撰寫詔誥之職。當年，陳武帝殺了王僧辯，又進討韋載，而任約、徐嗣徽乘虛而入，攻打石頭城。徐陵感激王僧辯以前對自己的知遇之恩，便跑去投靠任約。任約被討平之後，陳武帝把徐陵放了，並不問罪，而任命他為尚書左丞。
紹泰二年(556)，又派他出使齊國。回來之後，又任命他為給事黃門侍郎、秘書監。陳朝接受梁禪位後，又加封他為散騎常侍。天嘉四年(563)，擔任了五兵尚書，兼領大著作。六年，被任命為散騎常侍、御史中丞。當時，安成王陳頊任司空，他身為皇帝的親弟，地位尊貴，權傾於朝野。直兵鮑僧睿藉著安成王的威風，阻止別人告狀，大臣們沒人敢說話，徐陵卻出來彈劾他。陳文帝見徐陵服飾、奏章十分端整嚴肅，一副凜然不可侵犯的樣子，不禁為之收容而正坐。徐陵進讀奏章時，安成王正在殿上侍立，他仰視文帝，汗流浹背，面容失色。徐陵派殿中郎送安成王下殿。從此以後，朝廷上下肅然。
又改任吏部尚書，兼領大著作。徐陵認為從梁朝末年以來，選舉任用官員大多失去其原來的規矩，於是制定了有關原則制度，全面審核每人的名實是否相符，有冒進求官的，到處奔走鑽營的，他便寫信公開告訴他們說：「永定年間(557～559)，聖朝草創之初，干戈未曾平息，尚無條令秩序。府庫空虛，賞賜空乏，白銀難得，委任書易辦。權且以官階代替錢財絹帛，本義在於安撫接納，不計官員多少。致使員外郎、常侍之官，在路上比肩摩踵；諮議、參軍之屬，市內人員無數，這豈是朝廷典章所應如此？如今衣冠禮樂制度，日加完備，年有增益，怎能仍按舊例，作非理之望？所見諸君多已職務超越本分，仍說大受委屈，未能滿足更高的願望。如有人問梁朝的朱異也擔任卿相，這難道不是超過其本分嗎？這是由皇帝親自拔擢起來的，和選辟的程序無關。梁武帝說：『世上的人都說有不同眼色，我就特別看不上范悌。』宋文帝也說：『人怎麼會沒有運氣，每當有好官位時，我就想起羊玄保。』這類清高又顯貴的職務，不是從選任而來的。我既身居選職，請諸賢深明我的心意。」於是眾人都感到信服了。當時的議論將他比為毛王介。
當宣帝入朝輔政時，策劃廢黜那些有貳心的人，他讓徐陵一起參與計謀。宣帝即位後，封徐陵為建昌縣侯。太建年間(569～582)，準備讓徐陵擔任尚書左僕射，他上表反對並推薦周弘正、王勱等人。皇帝召他進入內殿，問他：「你為什麼堅決推辭而另外推薦別人呢？」徐陵說：「周弘正原是您任藩王時的長史，王勱是太平年間(566～567)的宰相府長史，張種是皇上本鄉的賢人貴戚，如果要選拔賢人舊臣，我理應居於後面。」他堅決推辭了幾天，才奉旨任職。
當朝議準備北伐時，宣帝讓朝臣舉薦元帥人選。眾人都認為淳於量合適，獨有徐陵說：「不見得。吳明徹家在淮北，很熟悉當地風俗民情，是位有謀略的將才，當今沒有人能超過他。」於是爭論了幾天仍不能作出決定。都官尚書裴忌說：「我贊同徐僕射的意見。」徐陵隨即說：「不僅吳明徹是良將，裴忌也是很好的副帥。」當天便下詔任命吳明徹為大都督，任命裴忌任監軍事，於是攻克了淮南的幾十州土地。宣帝便設酒慶賀，舉杯給徐陵說：「賞給你知人的功勞。」
太建七年(575)，任國子祭酒，徐陵因為公事的原因被免去侍中、僕射官職。但不久又加侍中，賜給手杖。十三年(581)，任太子詹事。他以年老為由，多次上表請求辭職，陳宣帝也格外對他優厚和禮遇，詔令將作監給他蓋了大齋房，讓他到齋中處理事務。陳後主即位以後，徐陵改任左光祿大夫，太子少傅。至德元年(583)去世，當年七十七歲，下詔追贈特進。起初，陳後主曾經自己寫了詩文去給徐陵看，卻說是別人所寫的。徐陵嘲笑說：「連辭句都不像樣子。」陳後主因此而懷恨在心，這時便謚為「章偽侯」。
徐陵器量宏大深遠，舉止有風度，本性又愛清靜簡樸，不營產業，俸祿和親族們一起共用。太建年間，他的食邑戶在建昌，當食邑戶送米到水邊時，親戚中有貧困的，他都讓去取走，幾天之內便被取扁。徐陵自己家裡不久便斷絕糧食了。府吏們很奇怪地問他什麼原因，徐陵回答說：「我還有坐車、牛和衣裳可以賣，別的家裡有可出賣的東西嗎？」他就是這樣周濟別人。
徐陵從小就崇信佛教，對佛經多能訓釋講解。陳後主在東宮當太子時，讓徐陵講解《大品經》，佛門義學中的名僧，都從遠方雲集而來，每當在講堂上探討時，四座沒有人能和他抗衡。他眼中有青色瞳子，當時人都認為是聰明的相貌。自從陳朝創業以來，文檄軍書以及受禪的詔書策文，都是徐陵所寫的，被人稱為一代文宗。但他也不以此來傲視別人，也不曾詆毀和指斥其他寫詩文的人。他對於後進的人，都熱心接待推薦，一點都不感到倦乏。陳文帝、陳宣帝時，國家有重大的文字要寫時，一定讓徐陵起草。他的文章能改變舊體，剪裁十分巧妙而嚴密，多有新意。每一文章寫出，好事者已經傳抄出來並能朗誦，於是他的文章流傳到了周、齊，家家都有他的文集。後來遇到戰亂，大多散失了，留存下來有三十卷。徐陵有四個兒子：徐儉、徐份、徐儀、徐尊。