宋太祖即位後不出半年，就有兩個節度使起兵反對宋朝。
宋太祖親自出征，費了很大勁兒，才把他們平定。
為了這件事，宋太祖心裡總不大踏實。有一次，他單獨找趙普談話，問他說：「自從唐朝末年以來，換了五個朝代，沒完沒了地打仗，不知道死了多少老百姓。這到底是什麼道理？」
趙普說：「道理很簡單。國家混亂，毛病就出在藩鎮權力太大。如果把兵權集中到朝廷，天下自然太平無事了。」
宋太祖連連點頭，讚賞趙普說得好。
後來，趙普又對宋太祖說：「禁軍大將石守信、王審琦兩人，兵權太大，還是把他們調離禁軍為好。」
宋太祖說：「你放心，這兩人是我的老朋友，不會反對我。」
趙普說：「我並不擔心他們叛變。但是據我看，這兩個人沒有統帥的才能，管不住下面的將士。有朝一日，下面的人鬧起事來，只怕他們也身不由主呀！」
宋太祖敲敲自己的額角說：「虧得你提醒一下。」
過了幾天，宋太祖在宮裡舉行宴會，請石守信、王審琦等幾位老將喝酒。
酒過幾巡，宋太祖命令在旁侍候的太監退出。他拿起一杯酒，先請大家乾了杯，說：「我要不是有你們幫助，也不會有現在這個地位。但是你們哪兒知道，做皇帝也有很大難處，還不如做個節度使自在。不瞞各位說，這一年來，我就沒有一夜睡過安穩覺。」
石守信等人聽了十分驚奇，連忙問這是什麼緣故。宋太祖說：「這還不明白？皇帝這個位子，誰不眼紅呀？」
石守信等聽出話音來了。大家著了慌，跪在地上說：「陛下為什麼說這樣的話？現在天下已經安定了，誰還敢對陛下三心二意？」
宋太祖搖搖頭說：「對你們幾位我還信不過？只怕你們的部下將士當中，有人貪圖富貴，把黃袍披在你們身上。你們想不幹，能行嗎？」
石守信等聽到這裡，感到大禍臨頭，連連磕頭，含著眼淚說：「我們都是粗人，沒想到這一點，請陛下指引一條出路。」
宋太祖說：「我替你們著想，你們不如把兵權交出來，到地方上去做個閒官，買點田產房屋，給子孫留點家業，快快活活度個晚年。我和你們結為親家，彼此毫無猜疑，不是更好嗎？」
石守信等齊聲說：「陛下給我們想得太周到啦！」
酒席一散，大家各自回家。第二天上朝，每人都遞上一份奏章，說自己年老多病，請求辭職。宋太祖馬上照準，收回他們的兵權，賞給他們一大筆財物，打發他們到各地去做節度使。
歷史上把這件事稱為「杯酒釋兵權」（「釋」就是「解除」）。
過了一段時期，又有一些節度使到京城來朝見。宋太祖在御花園舉行宴會。太祖說：「你們都是國家老臣，現在藩鎮的事務那麼繁忙，還要你們幹這種苦差，我真過意不去！」
有個乖巧的節度使馬上接口說：「我本來沒什麼功勞，留在這個位子上也不合適，希望陛下讓我告老回鄉。」
也有個節度使不知趣，嘮嘮叨叼地把自己的經歷誇說了一番，說自己立過多少多少功勞。宋太祖聽了，直皺眉頭，說：
「這都是陳年老賬了，盡提它幹什麼？」
第二天，宋太祖把這些節度使的兵權全部解除了。
宋太祖收回地方將領的兵權以後，建立了新的軍事制度，從地方軍隊挑選出精兵，編成禁軍，由皇帝直接控制；各地行政長官也由朝廷委派。通過這些措施，新建立的北宋王朝開始穩定下來。