正在曹操考慮下一步先從哪個方向用兵的時候，建安九年（204），并州刺史、袁紹的外甥高幹投降了。曹操接受高幹的投降，以獻帝的名義仍任命其為并州刺史。
這樣，西面就可以暫放一下，對北面的袁熙和袁尚以及東面的袁譚，曹操決定先打東面。曹操跟袁譚是合作關係，還結成了兒女親家，目前這一關係仍未從形式上終止，為何先從他下手？這是因為，袁譚趁曹操圍攻鄴縣之機抓緊擴張勢力，這段時間以來先後攻佔了魏郡以東的甘陵國、安平國、渤海郡、河間國的一些地方。甘陵國過去叫清河郡，桓帝時改為甘陵國，治所在甘陵縣，即今山東省高唐縣。
這些舉動無異於向世人表明，袁譚又背叛了曹操。不僅如此，袁譚還向袁尚下手，袁尚從鄴縣逃出來，先到的是中山國，袁譚向其進攻，袁尚被打敗才逃到了袁熙那裡。
袁譚打敗弟弟，把主力移駐到龍湊這個地方。龍湊在哪裡不詳，十二年前袁紹曾在這裡和公孫瓚有過一場激戰，結果公孫瓚大敗。袁譚的快速擴張成為曹操先解決他的原因，而袁譚的一系列行為也剛好給曹操找到了借口，曹操可以光明正大地發兵攻打他。
出師前，曹操先給這個親家寫了封信，責備他負約，宣佈解除雙方的婚約，把袁譚的女兒遣送回家，之後曹操親率大軍向龍湊開來，袁譚自知不是對手，主動撤退，將主力收縮到渤海郡境內，堅守渤海郡的治所南皮縣。
南皮，意思是「南面的皮革城」。
這不是搞笑，而是真的。南皮這個名字起源於春秋時期，當時北方少數民族山戎攻打燕國，燕國向齊國求救，齊桓公出兵援燕經過現在的滄州，為了保證軍事供應，找了一塊地方築起一座城，專門從事皮革加工，這座城便被稱為皮城。由於它北面的章武縣有一座北皮亭，所以就把這個皮城稱為南皮。
袁紹擔任過渤海郡太守，這裡是他的老根據地。袁譚退守南皮後，曹操於建安九年（204）底先攻入渤海郡南面的平原國，肅清了那裡的袁軍，於第二年初將主力部隊開到南皮城外。
對於這場戰鬥，曹操十分重視，務求一戰必勝，徹底消滅袁譚，所以他不僅帶上了張遼、樂進、於禁等名將出征，還帶上了曹仁的虎豹騎。虎豹騎除曹仁直接指揮外，指揮官還有曹純，曹真、曹休等曹家年青一代也在這支隊伍裡。剛剛當了新郎官的曹丕也參加了南皮之戰，他雖不是虎豹騎成員，但在戰鬥間隙經常跟曹真、曹休在一起，這些情況在保存下來的曹丕私人信件裡都有記載。
除了曹真和曹休，曹丕還有兩個好朋友，一個是夏侯淵的侄子夏侯尚，此時在曹軍中擔任司馬一級的軍官；另一個叫吳質，字季重，年齡約比曹丕大10歲，是兗州刺史部濟陰郡人，曹操在兗州主政時期就投奔了曹營，但一直默默無聞，曹丕對他很欣賞，認為他才學過人，見解獨到，而且擅長交際，所以引為至交。吳質於是成為曹丕身邊的智囊，他始終追隨曹丕，成為影響曹丕一生的重要人物之一，此次南皮之戰，夏侯尚和吳質都來了。
名將雲集、兵強馬壯的曹軍面對困守孤城的袁軍應該一戰而勝，但讓人覺得意外的是戰局開始卻並不順利，曹軍攻城很艱難，付出了重大傷亡仍然沒有多大進展。
造成這一情況的原因，除了袁軍頑強抵抗、南皮城防堅固之外，最大的問題來自氣候，此時是正月，華北平原正值嚴寒季節，城上滴水成冰，對防守的一方有利，對攻城的一方明顯不利。
看到這種情況，曹操想先退兵，等天氣轉暖之後再說。各位將領聽了都沒有什麼意見，但有個人一聽就不幹了，他是曹純。虎豹騎親自出戰卻無果而還，曹純實在不甘心，他向曹操建議：「我們孤軍遠征，如果撤退必然會影響士氣，現在敵人在攻防戰中佔優，必然會滋生驕傲思想，我們只要再堅持一下，一定能將敵人打敗！」
曹操覺得曹純說得也有道理，這一趟如果不能順利解決袁譚，那麼袁熙、袁尚的解決也都得往後拖延，夜長則夢多，最好還是把南皮拿下，為此多付出一些犧牲也是值得的。
曹操最後下了決心，無論如何也要攻下南皮。曹操親臨前線指揮，他還親自擂鼓助戰，曹軍將士無不奮勇爭先，守城的袁軍漸漸不支。樂進率部第一個突進到城下，首先把東門攻破，殺進城裡，袁軍開始潰逃。
袁譚騎馬在衛隊的保護下逃出了南皮，倒霉的是，他一出城就遇到了負責堵截的曹軍，而且偏偏是摩拳擦掌正要露一手的虎豹騎。
攻城不是騎兵的長項，曹純率領虎豹騎在外圍堵截潰逃的袁軍，結果堵住了袁譚。虎豹騎上去一頓猛揍，袁譚及其衛隊哪裡是對手，被殺了個丟盔卸甲。也是虎豹騎過於生猛，打起來有點收不住，一個衝鋒居然把袁譚殺死了，沒有抓到活的。袁譚的主要謀士郭圖在城裡被活捉，被曹操下令處死。
曹操聽到袁譚被殺的消息高興壞了，大概在曹操看來此戰結束後北方將再無大的戰事。
南皮所在的渤海郡是袁氏父子經營多年的基地，他們影響這一地區長達十多年，曹操攻佔渤海郡，需要盡快樹立起自己的權威，保證這一地區長治久安。
在南皮駐軍後曹操以司空和冀州牧的身份頒布了一系列命令，恢復冀州地區的生產和生活，整頓社會秩序。這些命令包括《蠲河北租賦令》《抑兼併令》《赦袁氏同惡令》《整齊風俗令》等，其中在《蠲河北租賦令》中曹操下令免除冀州刺史部建安九年（204）全年的田租和賦稅，以恢復和發展生產，這道命令的頒布，受到了百姓的擁護。
袁紹統治冀州刺史部期間，政治和軍事上依靠豪強地主，使得這些人的政治和經濟勢力迅速膨脹。長期以來，曹操一直在思考東漢政權在機制上的弊端，他認為豪強勢力發展太快是造成政權衰弱的主要原因，所以對如何抑制豪強勢力的問題十分關注。曹操認為如果這個問題解決得不好，即使得到政權也不會穩固，在關鍵時候會被豪強勢力所左右。
基於這些長期的思考和對現實情況的分析，曹操頒布了《抑兼併令》，他強調一個社會不患寡而患不均、不患貧而患不安，任由貧富差距拉大，必然會帶來嚴重後果。他說，像審配這樣的家族，不僅經濟實力很強大，而且成為窩藏罪犯的據點，是黑惡勢力的保護傘，老百姓怎麼能擁護這樣的政權？
曹操借民意向豪強勢力開刀是經過深思遠慮的，他不願意在自己統治的地區有豪門經濟繼而出現豪門政治。作為抑制豪門的一個重要步驟，在《抑兼併令》中他明確規定，每畝地收租的標準是4升，每戶另收2匹絹、2斤絲，除此之外一律不再收取其他賦稅。他要求各郡縣要嚴格檢查，看看有沒有豪強地主搭順車額外收取其他稅費的現象，同時禁止弱勢群體替那些豪強交賦稅。
攻佔南皮後，冀州刺史部全境成為曹操控制地區，那些曾在袁氏政權及軍隊裡任職的各級官員，有的仍舊被錄用，有的則心懷不安，害怕有朝一日會被清算。針對這種情況，曹操在南皮頒布了《赦袁氏同惡令》，明確表示跟袁氏做過壞事的人，允許他們改惡從善。
袁氏政權之所以失敗，一個重要原因是內部結黨營私、鉤心鬥角很嚴重，這種風氣由社會上層傳達到社會的各個層面，成為一種不良風氣。在過去的袁紹控制地區，不僅官員、豪強們操縱輿論、排斥異己、顛倒黑白，而且在一般老百姓裡也存在是非不分、缺乏社會正義感、歪門邪道盛行等現象，針對這些問題，曹操在南皮又下達了《整齊風俗令》，從整頓社會風氣入手，恢復社會秩序。
一系列政策的出台很快使冀州的社會面貌得到改觀，生產得到了恢復和發展。
在此期間，幽州刺史部的局勢也發生了新變化，袁熙的部將焦觸和張南看到袁氏集團即將覆滅，於是發動兵變，將袁熙、袁尚趕出了幽州刺史部，二袁只得投奔遼西的烏桓首領蹋頓。蹋頓以前娶了袁家的姑娘為妻，跟袁家有姻親關係，如今在遼西一帶勢力很大。
焦觸自稱幽州刺史，率全州各郡縣長官歸降曹操。曹操大為高興，幽州不戰而勝，省去了遠征的麻煩，他以朝廷的名義承認焦觸為幽州刺史，將焦觸、張南都封為列侯。
但是沒多久，幽州刺史部涿郡人趙犢、霍奴起兵，殺死了刺史焦觸以及涿郡太守，在袁熙、袁尚的鼓動下，蹋頓也趁機出動，在幽州刺史部漁陽郡北部的獷平一帶進攻鮮於輔。
在這種情況下，曹操率主力離開了南皮，進軍幽州刺史部，此次北征比較順利，在涿郡斬殺了趙犢、霍奴，曹操隨即率軍渡過潞河救援獷平。蹋頓所部未做抵抗，撤到了塞外，曹操於是率軍回師鄴縣。