洪武二年（1369年），朱元璋下詔建立功臣廟，並親自確定功臣的位次，以徐達為第一，下面依次是常遇春、李文忠、鄧愈、湯和、沐英、胡大海、馮國用等人。徐達能夠成為明王朝的開國第一功臣，不只是因為他是朱元璋的老鄉、少年時代的好夥伴，更重要的是他為朱元璋建立明朝立下了赫赫戰功。
在明王朝的建立過程中，徐達開闢江漢流域，掃清淮楚之地，攻取浙西，席捲中原，聲勢威名直達塞外，先後降服王公、俘獲將領不計其數，但他從不居功自傲，在皇帝面前尤其恭敬謹慎。朱元璋經常召見徐達，設宴歡飲，每每以「布衣兄弟」相稱，而徐達總是謙虛謹慎，小心應對，不越君臣之尊卑秩序。
按照朝廷的禮儀制度，徐達官至丞相，外出時備有相當規模的威赫儀衛。但他時常乘著普通的車馬出門，回到家中也過著儉樸的生活，從不奢侈浪費，或者歌舞宴請以誇耀自己顯達高貴。朱元璋曾對徐達說：「大將軍征戰幾十年，勞苦功高，從未安寧地休息過。我把過去住過的舊宅院賜給你，你可以安享天倫之樂。」朱元璋所說的舊宅院，就是他稱吳王時的王府。徐達堅決推辭，不肯接受。有一天，朱元璋帶徐達來到舊吳王府，設計將徐達灌醉，然後把他抬到床上，蒙上被子，想用這種辦法強迫他接受賞賜。徐達酒醒之後，驚慌失措，急忙下床伏地向朱元璋請罪。朱元璋見徐達如此謙恭，心中非常高興，便不再硬逼他接受舊王府。
徐達除了謙虛謹慎，戰功卓著外，尤為重要的一點是忠誠正直，愛憎分明，不結黨營私。朱元璋曾在朝堂上當著群臣的面稱讚徐達說：「受命率軍出征，取得勝利凱旋歸來，一貫不驕不傲，女色無所愛，財寶無所取，公正無私，像日月行天一樣光明磊落，大將軍就是這樣的人啊！」
徐達在朝中功高位顯，深得皇帝信任，自然有人想高攀他，企圖利用他的聲望謀取私利。丞相胡惟庸曾想與徐達拉攏關係，結為友好，但徐達看不起胡惟庸的品行作為，沒有理會。
當胡惟庸希望與徐達結交而遭冷遇後，便企圖收買徐達的看門人福壽，想讓福壽捏造罪名陷害徐達。但福壽忠於其主，不吃那一套，胡惟庸也沒有辦法。
長期的戎馬生涯，使徐達的身體逐漸支撐不住，終於積勞成疾，一病不起。1384年閏10月，徐達在北平病重，朱元璋遣使把徐達召回應天，第二年2月20日病逝於應天府，時年54歲。
徐達死後，朱元璋追封他為中山王，謚武寧。賜葬鍾山，配享太廟，名列功臣第一。