秦朝末年，人民苦於沉重的捐稅、繁重的徭役和嚴酷的刑罰，紛紛揭竿而起。公元前206年10月，劉邦率領大軍攻入關中，到達離秦朝皇都咸陽只有幾十里的灞上。僅當了四十六天秦王的子嬰，向劉邦投降。劉邦接受大將樊噲和張良的建議，下令封閉王宮，並留下少數士兵保護王宮和藏有大量財寶的庫房，隨即還軍灞上。
為了取得民心，劉邦把關中各縣父老、豪傑召集起來，鄭重地向他們宣佈道：“百姓苦於秦朝的嚴刑苛法已經很久了，應該全部廢除。現在，我與父老鄉親們約法三章：一是殺人的判處死刑，二是傷人的治罪，三是搶劫的受罰。我到這裡來，是為了替父老鄉親們除害，不是來侵害你們的，請大家放心。”父老鄉親們都表示擁護約法三章。
接著，劉邦又派人到各縣各鄉，將約法三章通告於百姓。百姓得知後都非常高興，紛紛帶著牛、羊、酒、食前來犒勞劉邦的軍隊。劉邦一再謙讓不肯接受，說：“我們的軍糧並不缺乏，不想再麻煩百姓了。”百姓們更加高興，唯恐劉邦不做王。由於堅決執行約法三章，劉邦得到了百姓的信任、擁護和支持，最後取得天下，建立了西漢王朝。
成語“約法三章”即指規定出幾條共同遵守的條款。約，協商，議定；章，指條目。