整個關中地區已在曹軍佔領中，曹操到達長安，在此略作休整，隨即進軍漢中。
由關中到漢中必須越過秦嶺，最便捷的通道是穿越其中的幾條棧道，著名的棧道有三條，自東向西分別是子午道、儻駱道、褒斜道。這些道路穿行於大山之間，雖然路途最近，但崎嶇難行，又容易遭遇伏擊，在準備倉促的情況下曹操決定放棄。那就只有一條路了，就是繞行大散關。大散關是關中四關之一，位於今陝西省寶雞市南面的大散嶺上，是由陝西進入四川的要道，號稱「川陝咽喉」，當年劉邦「明修棧道，暗度陳倉」就是走的這裡，現在曹軍進攻的方向剛好相反。
建安二十年（215）4月，曹操率軍抵達大散關，到了一看，路也很難走，曹操寫了一首《秋胡行》，記錄行軍的艱辛。不僅行軍艱難，還遇到了氐人發起的叛亂。曹魏新置的雍州刺史部轄下有不少氐人，曹操率軍南下漢中時氐王竇茂突然起兵反叛，他們聚集一萬多人，佔據漢中以西的武都郡一帶峙險不服，曹軍如果繼續南下，氐王就如同頂在背後的一把刀，這不是小事。
曹軍不得不停下進軍的步伐先解決氐人問題，他派張郃、朱靈率所部在雍州刺史張既的配合下攻打氐王，竇茂退守河池，即今甘肅省徽縣一帶。曹操下令猛攻，於這一年5月將河池攻破，曹操下令屠城。
屠城雖廣受詬病，但也的確對敵人造成了強力威懾，有一個記載說當時韓遂所部還在雍州刺史部境內活動，韓遂的部下麴演、蔣石等人把他斬殺，把首級呈給曹操，如果這條記載準確，韓遂死時就已經70多歲了，起兵至今超過了30年。
還有一個叫劉雄鳴的，是關中人，李傕、郭汜作亂長安時隱入秦嶺山中，很多人依附他，形成一股強大的勢力，懾於曹軍的威嚴劉雄鳴主動前來拜見，曹操很高興，對他說：「我剛進關，就夢到一個神人，該不會就是你吧？」曹操任命劉雄鳴為將軍，讓他召集部眾隨同大軍行動。劉雄鳴其實就是秦嶺山中的土匪，這些人自由慣了，並不喜歡被招安，劉雄鳴在部下的鼓動下再次反叛，多達數千人，佔據要道，曹操派夏侯淵前往討伐，劉雄鳴率叛軍餘部逃往漢中。
漢中的西鄰是雍州刺史部武都郡，郡太守名叫蘇則，字文師，關中人，舉過孝廉、茂才，才能品行都不錯，曹操在行軍路上召見了他，對他的工作很滿意，讓他帶人擔任大部隊的嚮導。
這些事一耽擱，就到了夏天，麥子成熟了。張既、蘇則等組織民眾就地收穫小麥，加上從關中調來的糧食，軍糧供應就不成問題了。這時大家才明白，原來丞相這麼急於進軍漢中，時間都是算好的，如果晚來一兩個月，收麥子就趕不上了。
有糧食還要保證運輸，雍州刺史部地廣人少，曹操命長安特別市市長（京兆尹）鄭渾、河東郡太守杜畿等人徵調運輸隊來前線負責運輸，杜畿迅速徵調了5000人親自帶往漢中前線，雖然跋山涉水、遠離家鄉，但大家士氣很高，沒有一個人逃亡，大家都互相勉勵：「人都有一死，寧死也不能辜負杜太守！」
7月，曹軍主力進抵陽平關。
陽平關位於今陝西省勉縣境內，是漢中的西大門，它北面是秦嶺，南臨漢水和巴山，處於陳倉故道和金牛道交會處，這兩條古道一條是關中南下漢中的必經之路，一條是漢中入川的必經之路，陽平關處於其結合部。
之前曹操曾向當地人詢問陽平關一帶的地形，有人告訴他陽平關的地勢一點都不險要，關前的南北兩山相距很遠，不容易守住。到了陽平關曹操一看完全不是那麼回事，不由得感歎道：「別人轉述的，未必都是真實情況啊！」
聽說曹操親率大軍到達陽平關，張魯自知不是對手，準備投降，但是遭到其弟張衛的反對。張魯於是派張衛以及楊昂等人率兵數萬，在陽平關前橫著築石城十多里，攔住曹軍的進攻。
曹軍大約有10萬人，張魯軍大約3萬人，但在這樣的地理條件下，人多並不是最有利的因素，由於地勢險要，易守難攻，曹軍死傷慘重，曹操感歎道：「打了30年的仗，還沒有這樣受制於人的，怎麼辦？」
曹操竟然想到了撤兵，但是奇跡發生了。當時曹操撤退的命令已下，夏侯惇、許褚所部接到命令連夜撤退，夜裡看不清路，結果誤入敵人兵營，敵人不知究竟，還以為曹軍攻營得手，居然四散敗走。侍中辛毗、劉曄等人隨軍行動，他們告訴夏侯惇、許褚說已經佔領了敵人的要塞，夏侯惇、許褚不相信，親自來察看，果然是真的，立即報告曹操。
還有一個記載，說當時不知從哪裡竄出來數千隻麋鹿衝入張衛大營，張衛軍營夜驚，曹操手下的高祚等部離此不遠，高祚吹響鼓角，召集其他友軍，張衛大懼，以為這都是曹軍預謀好的攻營戰術，於是投降。陽平關就這樣稀里糊塗地被攻下了，曹操一看，那就不撤了。
南鄭無險可守，張魯還想投降，但他手下的功曹閻圃認為投降可以，但不要這麼輕易就降，他的理由是：「現在就這麼投降了，必然沒有什麼份量；不如先投奔杜濩、樸胡，然後看情況再說，到那時再投降功勞也大些。」
張魯真是個善於傾聽部下意見的好領導，對閻圃的建議他也接納了，於是帶領一部分人南入巴中。巴中地區屬益州刺史部，益州目前雖然被劉備佔領，但各地正處在新舊交接中，像巴中這些地方目前還比較亂，在當地勢力比較大的是杜濩、樸胡這些部族首領。
臨走前有人建議搞一些破壞，把倉庫等設施燒燬，張魯不同意：「本來打算歸順朝廷，現在離開是暫避鋒芒，沒有惡意，倉庫裡的東西都歸朝廷所有。」張魯讓人在府庫上一一貼上封條，之後才走。曹操到了南鄭，對張魯的做法很高興，他得知張魯有歸降的本意，就派人到巴中地區尋找張魯，勸他投降。
9月，巴中地區的部族首領樸胡、杜濩率部出降，曹操下令分巴郡為巴西郡和巴東郡，任命樸胡為巴東郡太守，杜濩為巴西郡太守，都封為列侯。11月，張魯率家屬從大巴山出來投降，曹操以天子的名義拜張魯為鎮南將軍，封閬中侯，食邑一萬戶，封張魯的五個兒子以及閻圃等人為列侯。
馬超逃往益州時沒來得及帶上妻子董氏以及兒子馬秋，現在董氏和馬秋都到了曹操手上，曹操把董氏賜給閻圃為妻，把馬秋交給張魯處理，張魯親手把馬秋殺了。張魯此舉並不僅僅因為痛恨馬超，而是借此向曹操表示忠心，說明他與馬超已成不共戴天的仇人，讓曹操放心。
馬超的部將龐德也在張魯處，現在也投降了曹操，曹操早就聽說龐德作戰勇猛，任命他為立義將軍，封關門亭侯，食邑300戶，龐德從此忠心耿耿地追隨曹操，至死不渝。
五年前與馬超一同在關中叛亂的程銀、侯選等人各率1000多家在漢中，他們也出來投降，曹操既往不咎，仍然恢復了他們的職務。還有那個劉雄鳴，漢中平定後沒有辦法只好再次投降，曹操看到劉雄鳴，上去一把拽住他的鬍子：「老傢伙，這回又抓到你了！」說歸說，曹操並沒有為難他，恢復了他的職務，只不過漢中不能讓他再待了，說不定哪一天他還作亂，曹操下令把他和部下遷到冀州刺史部渤海郡。
曹操對張魯等人封賞都很重，原因不在於閻圃說的那樣，而是曹操考慮到張魯祖孫三代在漢中統治時間很長，又有一套「五斗米教」相輔助，在漢中影響很大，只有尊崇張魯，才能得到漢中的人心，鞏固漢中的統治，為進圖益州做長遠規劃。
從行政區劃上說，漢中郡屬益州刺史部，應該是劉備的地盤。劉備進入成都時黃權曾提出建議：「如果失去漢中，則巴郡不可保，等於失去了益州的一條臂膀。」
這時張魯出逃巴中，劉備於是任命黃權為護軍，督率就近的各軍前往巴中迎接張魯，可是晚了一步，張魯投降了曹操。黃權就率軍攻擊曹操新任命的太守樸胡、杜濩等人，曹操命張郃率部趕往支援。
這時劉備剛佔領成都不久，益州並不穩固，無法傾全力去與曹操爭鋒，只能派張飛去支援黃權。張郃與張飛戰於巴中，雙方相拒50多天，最終張飛打退了張郃的進攻，張郃撤回南鄭。巴郡、巴東郡和巴西郡習慣上稱「三巴」，屬益州刺史部，這時大部分也都被劉備所控制，劉備任命張飛為巴西郡太守，讓他在那裡據守。
荀攸死後，在曹操身邊出謀劃策的主要是劉曄，曹操又選拔了司馬懿等人參與籌劃，司馬懿此次以主簿的身份第一次隨軍，他向曹操提出建議：「劉備以騙術取得益州，蜀人未必肯服，此時他們與孫權為荊州的事相爭於江陵，這是一個機會。如今攻克漢中，益州震動，進兵攻之，益州必然瓦解。聖人說過，做事不違背天命，但也不能失去時機呀。」
司馬懿的建議並非沒有道理，劉備得到益州後，孫權趁機索要借出去的南郡等地，孫劉聯盟出現了裂痕，這倒是一個機會。劉曄也建議，攻克漢中後益州震動，正是一舉攻佔益州的最好時機，如果失去這個機會，必然給今後留下難題。
但是曹操遲疑不決，他想起了當年在赤壁的遭遇，見好就收是有道理的，漢中之得有很大的偶然性，如果不是天祐曹魏，說不定此次也是無功而返，這次行動的目標是漢中，既然目標已經實現就應該退兵了。曹操沒有接受司馬懿和劉曄的建議，他說了一句很有名的話：「人最怕的是不知足，既然得到了漢中，就不要再想益州了！」
這就是「得隴望蜀」典故的由來，但不久後，有從益州那邊投降過來的人報告說，聽到曹軍攻佔了漢中，蜀中大為震動，劉備雖然連殺了不少人都不能讓局面安定。曹操有些後悔，問劉曄現在進兵益州是否可行，劉曄認為時機已過，現在那裡的局面必然初步安定，不能再進攻了。
不過，從張郃和張飛在巴中地區交戰的情況看，曹軍如果即刻南下在局面上也未必佔優勢，先不說漢中初定，人心不穩，單就戰爭準備、熟悉道路等方面，也不是倉促就能完成的，曹操沒有採納司馬懿和劉曄的建議，應該說是明智的。
曹操任命夏侯淵為都護將軍，率領張郃、徐晃所部留守漢中，派丞相府長史杜襲以駙馬都尉的身份負責漢中的政務。
漢中郡之前已被劉焉改為漢寧郡，曹操下令恢復漢中郡，將漢中郡的安陽、西城等縣分出來設置西城郡，將錫縣、上庸縣等分出來設置上庸郡，分別設置了郡太守、都尉。
之後，曹操率主力撤出漢中。