徐孝嗣字始昌，是東海郯縣人。其祖徐湛之，在宋朝官至司空；其父徐聿之，官著作郎，都被太初(劉劬)殺害。徐孝嗣當時還在母腹中，故倖免於難。孝嗣少年時便很能自立，風儀端莊清簡。八歲時，襲爵為枝江縣公，謁見宋孝帝，一上台階就流淚，直到就坐都不止。皇帝甚加憐愛。將康樂公主許配給他。泰始二年(466)，西討解除戒嚴後，皇上還宮，孝嗣上殿沒穿韋未，受到治書御史蔡准的劾奏，罰金二兩。拜官駙馬都尉，授職著作郎，因母喪辭官。後為司空、太尉二府參軍，安成王文學。徐孝嗣有姑嫁給東莞的劉捨，舍兄劉藏任尚書左丞，孝嗣前往拜見他。劉藏退下後對劉捨說：「徐郎可是要做令僕一級大官的人哪，三十來歲時就差不多做上了，你要好好和他相處。」
升明年間(477～479)，孝嗣遷任太祖(蕭道成)驃騎從事中郎，帶南彭城太守，隨府轉任太尉諮議參軍，太守仍舊。齊王府設立建制後，孝嗣任世子庶子。建元初年，齊王國撤銷。徐孝嗣出任晉陵太守，領長水校尉。沒上任，又被任命為寧朔將軍、聞喜公蕭子良征虜長史，遷任尚書吏部郎，太子右衛率，轉任長史。徐孝嗣禮儀中趨步走得很好，容止閑雅，可以和太宰褚淵比美。世祖(蕭賾)對他深加優待。尚書令王儉對人說：「徐孝嗣將來一定是宰相。」不久轉充御史中丞。世祖曾問王儉：「誰適合繼承你的職位？」王儉說：「臣下我退休之時，大概只有徐孝嗣適合接替了。」後來孝嗣出任吳興太守，王儉贈給孝嗣四言詩道：「方軌叔茂，追清彥輔。柔亦不茹，剛亦不吐。」當時人拿孝嗣和蔡子尼的行狀相比。在郡裡主持工作時，孝嗣很有能力。趕上王儉去世，皇上便調孝嗣任五兵尚書。
這一年，皇上下敕令儀曹令史陳淑、王景之、朱玄真、陳義民等編撰東晉以來的朝儀典章，並讓他們向徐孝嗣請教。次年，孝嗣遷官太子詹事。隨從世祖行幸方山。皇上說：「我曾在此山之南經營大業，又要在這兒建造離宮，其規模應當比靈丘還要宏大。」靈丘山湖，就是新林苑。孝嗣回答說：「繞黃山、圈牛首，那已是盛漢的事情嘍。如今江南還不太平，老百姓也很疲憊，盼望陛下在這方面更加用心。」皇上終究也沒在這裡修建什麼。竟陵王蕭子良對徐孝嗣十分稱許。蕭子良喜好佛教，讓徐孝嗣和廬江何胤負責齋講和眾僧的安排事宜。後轉任吏部尚書。不久加右軍將軍，轉領太子左衛率。中央許多工作都交給他處理。
世祖駕崩，遺詔中轉任徐孝嗣為右僕射。隆昌元年(494)，遷任散騎常侍、前將軍、丹陽尹。高宗(蕭鸞)謀劃廢除鬱林王時，曾把計劃告訴了徐孝嗣，孝嗣奉旨但沒有表態。高宗入殿時，徐孝嗣身著軍裝隨後。鬱林王死後，高宗正等待太后令到，徐孝嗣便從袖中取出太后令來奏上，高宗大喜。由於廢立有功，徐孝嗣被封為枝江縣侯，食邑一千戶。朝廷配給他鼓吹一部，甲仗五十人入殿。不久轉任左僕射，常侍仍舊。明帝做皇帝以後，加任他為侍中、中軍大將軍，由於南齊書定策勳高，晉封公爵，增封食邑二千戶。配給班劍儀仗二十人，加侍衛兵百人。按照老規矩拜授三公要行臨軒之禮，此時皇上特下詔和陳顯達、王晏一同臨軒拜授。
北虜將要來犯，皇上下詔命徐孝嗣假節駐兵新亭。當時王晏為尚書令，但他的威望不如孝嗣，王晏被誅殺後，孝嗣轉任尚書令，領本州中正，其他官職爵位都仍舊。徐孝嗣愛好文學，賞識清勝。器量弘雅，從不以權勢自居，因而能在建武時代保持平安。他能夠恭己自保，朝廷對此都很稱道。
當初，徐孝嗣在率府，在齋北壁下睡午覺，夢見有兩個童子走來催促說：「移公床。」孝嗣驚起，便聽到牆壁有聲響，才走開數步牆壁就倒塌壓在了床上。建武四年(497)，詔命徐孝嗣就本號開府儀同三司。孝嗣聽說有詔，表情嚴峻地對身邊人說：「我德不及古人，而位極人臣，這怎麼擔當得起！明君在上可以以理勉強我，但我一定要以死請求不要授我此職。如果不被批准，我就應當回到鄉下當平民，或者在家裡等待處罰。」於是堅決辭讓不受。
這時連年有北虜來犯，軍國虛乏。徐孝嗣上表請求建立屯田制度，他說：「國家的急務，是兵與食，一夫不耕，就會影響至切。所以周朝實行井田阡陌，軍力強盛，漢代實行屯田廣置，常勝不敗。從此以後，大抵情況也是不言而喻，但完全照古人的做法，是否妥當還需要討論；但當今情況緊急，應當有必要的措施。我尋思沿淮諸鎮武裝，全靠京師供給，費用既龐大，運輸又困難。聚斂糧食，以備迎敵，常常苦於不足，這關係到利害根本，最為急切。我近來走訪了當地故老和以前在那兒工作過的長官，得知淮南舊田，到處都是，但溝嶺不修，都長滿了荒草。而平原陸地尤其廣大。如今邊防既然很緊張，戍卒也增加了許多，既依賴於遠途運輸，又荒廢了良田，戰士大多面帶饑色，令人感歎。我打算讓刺史二千石級別的官員都親自動手，領導士兵就地開墾。精心尋求灌溉之源，確定田地質量。州郡縣戍主帥以下，都要輪番去抓農業。現在水田已過了季節，但正值菽麥的耕種時節，而菽、麥二種作物，在北方尤其適宜，對當地人的意義，不亞於粳稻。開創之利，關鍵在於及時。我的建議如果得到通過，請立即派人到徐、兗、司、豫，以及荊、雍一帶，各就當境情況進行規劃實施，不得遺漏。設立專門機構和人員，負責此項工作。田器耕牛等必需之物，由中央審核後統一配給。年末進行成績考核，明確賞罰。此事如果成功，一定會大有好處。如果邊境一帶糧食充足了，那麼江南自然就會豐富起來，此舉帶來的利益，不可估量。」此事被採納，但當時皇上已經臥病，又兼戰爭沒停，因而到底也沒實行。
皇帝病重後，徐孝嗣便進入禁城居住，皇上臨終時對徐孝嗣有重大遺托，並重申了讓他開府儀同三司的命令。加任中書監，永元初年(499)，徐孝嗣輔政，自尚書下省出住爆城南宅，不得還家。皇帝越來越失德，徐孝嗣也不敢諫諍。等到江纏被誅，孝嗣也心懷憂恐，但從不流露。始安王蕭遙光謀反，眾情遑惑，看到孝嗣進來了，宮內才放心。但朝廷被群小把持，孝嗣也無法控制。朝廷給他進位司空，他堅決辭讓。又請求解去丹陽尹之職，沒被批准。
徐孝嗣是個通文理的人，從不顯露自己的意見態度，名位雖大，但因此而沒遭禍。虎賁中郎將許准很有膽力，領著軍隊隸屬孝嗣，陳說機密和動向，勸孝嗣施行廢立君主。孝嗣遲疑很久，認為一定不能動用武力，可以等少主出遊時，關閉城門召集文武百官討論廢除之事，不過雖有此心，終究不能決斷。群臣漸漸憎恨孝嗣，勸皇帝在召集文武百官討論朝政時，藉機誅殺孝嗣。冬天，皇上召徐孝嗣入華林省，派茹法珍賜藥，徐孝嗣面色不改，還能飲酒，飲至斗余藥力發作，才去世。皇上於是下詔說：「周德正在光大時，有『三監』迷叛，漢朝正在昌盛時，有宰臣鬧事，他們都身遭誅殺，族被斬絕。殷鑒不遠，垂戒後人。徐孝嗣憑借家世資歷，很早就享受特殊待遇，又逢著機會，遂登高位。但是沒能表現出對皇上的忠誠，反而屢次明顯諂黷主上，應當立即賜死，以正國法。」