阮孝緒字士宗，陳留尉氏人。父親阮彥之，宋朝時作太尉從事中郎，以廉潔能幹聞名。
孝緒七歲時過繼給堂伯阮胤之，胤之的母親周氏去世，留下的財產百餘萬本應歸孝緒，但他一無所取，全都給了胤之的姐姐琅笽王晏的母親。聽說此事的人都感歎驚異。乳母可憐他作為主持喪禮的嫡孫很辛苦，就私自偷了一些玉羊金獸等物件給他，孝緒見了很是驚怕，就告訴父親送還給王晏母親。
從小就非常孝順，性格沉靜，雖然也和小孩子們一塊兒玩耍，卻總是喜歡玩挖池堆山。十三歲時，便通曉《五經》。十五歲時行冠禮去見父親彥之，彥之訓導他說：「冠禮是人生最重要的，是人倫之始，你應努力自勉，來保佑你自己。」他回答：「願學赤松子雲遊海外，追隨許由遁跡山谷，希望能保住短促的人生，不遭塵世連累。」從此就避開眾人獨居一室，不是早晚問候父母便足不出戶，家裡人也都見不到他，親友們都稱他為居士。
十六歲時，因父親去世便不穿絲織的衣物，即使是吃到美味的蔬菜也要吐掉。表兄王晏官高顯赫，多次到他家裡來，孝緒估計他將來必定要垮台，聽到他儀仗的吹奏聲，就鑽出籬笆逃避，不和他相見。曾有一次吃醬味道很好，問起來，別人說是從王家弄來的，便把飯吐出來把醬也倒掉。等王晏被殺，親戚們都為此害怕，孝緒卻說：「雖是親戚，卻非同黨，怎麼會受他牽連呢。」居然免於遭禍。
梁武帝起兵反齊，圍攻建鄴時，孝緒因家貧沒有柴禾做飯，婢女就偷砍鄰居墳上的樹木來燒火。孝緒知道後，就不吃飯，又叫扒了房子用木料做飯。所居書屋只有粗床一張，周圍用樹作圍牆。天監初年，御史中丞任日方來尋訪他哥哥阮履之，想來拜訪他而不敢去，望著他的住處引《詩經》而歎道：「其室雖近，其人甚遠。」他就是如此受到名流的欽佩崇敬。從此仰慕他風采聲譽者，莫不懷揣名片整頓衣冠而來，但到此又不得見，只能望塵歎息。殷芸想贈詩給他，任日方說：「志向既然不同，何必互相干擾。」殷芸才作罷。孝緒只和比部郎裴子野交往。子野把他推薦給尚書徐勉，說他十幾歲跟隨作湘州刺史的父親，不用公家的紙寫字，以保護父親的為官清白。說他的志向品行和管寧差不多，辭采文章好似皇甫謐。
天監十二年(513)，武帝下詔讓公卿舉薦賢士，秘書監傅照上疏舉薦孝緒。他和吳郡范元琰一起被徵召，兩人都未應徵。陳郡袁峻對他說：「從前天地昏暗，賢人隱居，如今世道清明，而你還要出世，合適嗎？」孝緒回答：「以前周朝雖然有道，但伯夷、叔齊卻不食周粟，躲避到山中挖野菜吃。漢朝鼎盛時期，夏黃公、綺裡季卻不感覺山林裡寂寞。行仁義各有自己的方式，和世道又有什麼關係！何況我又不是先賢一類人呢。」起初，謝月出和伏日恆應召出任，天子便認為隱者都是圖謀虛名，借此來求取顯貴的聲譽，所以就沒有再理孝緒、何胤他們，二人崇尚的志向便得以成全。
後來孝緒在鍾山聽講時，母親王氏忽然得病，兄弟們要去叫他，母親說：「孝緒淳厚性情與我暗通，一定會自己來的。」孝緒果然因為心驚返回家中，鄰人不禁感歎驚異。給母親配藥必須用生人參，以前傳說鍾山出產，孝緒便進山親歷艱險，但好幾天也沒找到。忽然看到有隻鹿在前邊走，孝緒心裡有感應便隨後而行，走到一處鹿不見了蹤影，走近一看，果然找到了這種藥草。母親得此藥吃後病馬上痊癒，當時人們都說是他的孝行感動了神靈所致。
有個善於卜筮的張有道對他說：「只見你隱遁形跡而內心難以看出，如不用龜甲耆草來卜一卦，便沒有什麼證據。」布卦時，卜了五爻，說：「這將會是『鹹』卦，依應感之法，不是嘉遁之兆。」孝緒說：「怎知下一爻不是上九？」結果下邊果然成「..卦」。有道歎息說：「這就是所謂的『肥..無不利』，卦象應了你的所為，你的內心和行為是一致的。」孝緒說：「雖然卜得『..卦』，然而如果上九爻不出現的話，隱居之路，我恐怕要拜辭許由先生而走不得了。」於是著《高隱傳》，上自炎皇，終於天監末年，斟酌人物，分為三等：言行超拔高逸，連姓名也沒流傳下來的，為上篇；一生不曾損害自己的修行，有姓名可錄者，為中篇；辭官不幹，一心隱居的，為下篇。湘東王著《忠臣傳》，集佛教碑文、《丹陽尹錄》、《研神記》，都先徵詢孝緒意見而後定稿。南平元襄王聽說他的名聲，寫信邀請他，他不去，回信說：「不是我傲視富貴，只是生性畏懼官場，如果獐鹿可以駕車，那和良馬還有什麼區別呢。」
當初齊建武末年，青溪宮的東門無緣無故塌了，大風刮倒了東宮門外楊樹，有人拿這事問孝緒，他說：「青溪宮是皇家舊宅，齊朝在五行中屬木，東方是木位。如今東門自己塌壞，木怕是要衰亡了。」
梁武帝禁止收藏讖諱之書，此類書孝緒都有，有人勸他藏起來，他回答說：「從前劉德看重淮南王劉安的《秘要》，致使有劉向之禍，杜瓊所謂不如不知道，這話說得好。」有客人向他要這些書，他回答說：「自己不想要，怎能嫁禍於人。」就把那些書都燒了。
鄱陽忠烈王妃，是孝緒的姐姐。鄱陽王曾乘車來想邀他一起去玩兒，孝緒從院牆上挖洞逃避了。始終不肯見他。鄱陽王只得悵然歎息。王的幾個兒子重甥舅之情，逢年過節都要給他送些禮物，他什麼也不要，也從來不與外甥們見面，竟然一直不認識。有人問他為什麼，孝緒說：「我本是賤民百姓，不應作王侯的親戚，如今不期而遇，並非我的本願。」劉高欠曾送給他米，孝緒不收，劉高欠就也把米扔掉了。孝緒晚年素食斷酒。他平時供奉的石像原先有些缺損，心想補一下，盡心敬奉，過了一夜忽然石像自己完整無缺了，眾人都很驚異。
大同二年(536)正月，孝緒自己卜卦後說：「我的壽限和劉著作同年。」等劉杳死，孝緒說：「劉侯已經死了，我也活不了幾天了。」那年十月去世，享年五十八歲。梁簡文帝當時為太子，特降恩惠，賞贈優厚，他兒子阮恕按照他的遺願辭謝不受。顧協認為這次對他的恩惠不同尋常，勸說他接受下來。門徒們追論孝緒的德行，送他謚號為「文貞處士」。他所著的《七錄》、《削繁》等一百八十一卷，都在世上流行。
當初，孝緒所撰的《高隱傳》中篇收錄了一百三十七人，劉高欠、劉於看了以後說：「從前嵇康所讚頌的人物，缺了一篇自讚，如今這四十的整數，是否要我們來湊足它呢。」孝緒回答說：「這就是所謂荀君雖少，後事當交付鍾君。如若你二位一旦辭世，此書就以你二位為結尾。」後來劉高欠、劉於果然去世，於是孝緒就增補二傳。等孝緒去世，劉於的哥哥劉稗把他的一些逸事記錄下來編入篇尾，以成絕筆之意。