孫權如果知道了劉備與諸葛亮這番談話，他一定會心裡不服，因為之前魯肅已經就此發表過見解，主要思路跟諸葛亮異曲同工。
孫權18歲接班，用了短短三年時間就讓江東的面貌煥然一新，那些對他掌權並不看好的人，無論這些人是敵還是友，現在都不再懷疑他的能力。孫策留下的地盤不僅沒有縮水，而且不斷擴大，人馬快速增加，內部也進一步理順，沒有人再膽敢從內部向他發起挑戰，一批新人迅速成長起來。
從外部情況看，也都朝著有利於江東的方向發展，近年來曹操忙著北方的事，劉表胸無大志，一心守成，給江東製造了難得的戰略機遇。孫權始終記得魯肅向他提出的規劃，待內部安定之後，他決心立刻向西擴張，打敗黃祖、劉表，繼而佔領荊州。
孫權知道曹操也是這麼想的，只是曹操目前還顧不上，孫權必須跟曹操、也跟時間賽跑。當然劉表、黃祖也會這麼想，所以對於荊州西線的防務進行了周密部署。
黃祖當時以江夏郡太守的身份駐守西陵，即今湖北省武漢市新洲區。為了把黃祖牢牢拉住，劉表新設了一個章陵郡，任命黃祖的兒子黃射為太守，駐紮在沙羨，此處位於今湖北省武漢市以上的長江邊上，黃射以沙羨為基地，控制著從沙羨到柴桑這一段江防。
為了支持黃祖父子，劉表還讓侄子劉磐率兵駐紮在彭蠡以西的地區，彭蠡即今鄱陽湖，這裡是豫章郡的轄區，總體上是孫吳的勢力範圍，劉磐東進至此，與江夏郡的黃祖、章陵郡的黃射形成三角之勢，江東出兵攻擊其中一部，另外兩部可以策應和增援。
為了打破敵人的三角形防禦體系，孫權也做了一番準備，他讓周瑜以中護軍、江夏郡太守的身份率一部主力進駐宮亭，此地詳細位置已不可考，只知道它在鄱陽湖一帶。同時，命徐盛以柴桑縣長的身份駐柴桑，即今江西省九江市。為了對付劉磐，孫權讓太史慈以建昌都尉的身份駐紮在海昏，此處在鄱陽湖西南面，今江西省永修縣一帶。
做完這些部署，孫權一直等待著發起進攻的機會。
機會很快來了，建安八年（203）8月曹操曾親自帶兵南下征劉表，這一次雖然是佯攻，但造的聲勢很大，曹操駐軍西平，即今河南省中南部的西平縣。
曹操此次虛晃一槍的目的是對劉表施壓，他當時雖然一直忙北方的事，但對荊州心裡並不踏實，總擔心劉表趁機在他背後來一下，但分重兵佈防南線他又做不到。作為出色的《孫子兵法》研究專家，曹操當然明白最好的防禦就是進攻，所以他主動出擊，讓劉表更加不敢進犯。
劉表嚇壞了，趕緊調集人馬向襄陽及其北部一帶佈防，對孫權來說，這當然是西征的最好機會。這一年的10月，孫權集中江東精銳人馬西進至揚州和荊州交界的宮亭、柴桑一帶，第一次西征黃祖。
參加此戰的除先期駐紮在那裡的周瑜、徐盛以及駐紮在海昏的太史慈外，還有蕩寇中郎將程普、討虜中郎將呂范以及凌操、黃蓋、韓當、周泰、呂蒙等部，江東精銳盡出，孫權志在必得。
開始進展得比較順利，孫權率各部突入江夏郡，由柴桑沿江一路西上，一直抵達了章陵郡的沙羨。那時候漢水匯入長江的地方還沒有武漢這樣的重鎮，武昌建城以及武漢三鎮崛起都是以後的事，其上游不遠的沙羨重要性相當於今天的武漢市，是一座重鎮。
沙羨如果攻破，劉表的江夏郡和章陵郡將盡入孫吳，荊州將失去整個東部防線。為此，黃祖父子十分著急，組織人馬拚死守城。
沙羨攻防戰打得很激烈，孫權親自指揮，城池仍久攻不下。黃祖本人也親自率兵增援，雙方在城裡城外展開了激烈爭奪。有一次黃祖被打敗，孫權領兵追擊，黃祖眼看凶多吉少，這時黃祖負責斷後的隊伍裡有人射出一箭，正中孫權手下破賊校尉凌操，凌操被射身亡，黃祖趁勢得以脫身。
凌操戰死是此次西征黃祖之戰孫吳軍隊遭受的最重大損失，凌操的兒子凌統時年15歲，孫權任命他為別部司馬，破賊都尉，統領他父親的人馬。
孫權後來得知，射死凌操的那個人名叫甘寧。
沙羨之戰至為關鍵，黃祖父子為了守住此城已拼盡了力氣，按理說不下此城孫權不會收兵。然而孫權很快下令撤軍了，原因是後方出了問題，各郡的山越趁孫吳主力西進之機同時起事。
山越，指的並不是一個特定的民族，而是一些居住在南方山區的大大小小部落的總稱。據史料記載，山越先祖原來也在北方，炎帝、黃帝時居住在黃河中下游，在與炎黃、東夷部落爭戰中被打敗，向當時尚屬蠻荒之地的南部遷徙，形成眾多互不隸屬的部落，稱為「百越」。秦朝建立後曾派大軍南下平百越，雖有一定成效，但由於這些部族居住分散，山大溝深，未能完全將其納入朝廷管理之下。
漢末時局動盪，朝廷式微，百越更成為法外之地，加上許多不滿苛捐雜稅和逃避戰亂的人向山裡湧去，百越勢力不減反增，他們憑借山水險峻，在深山裡形成了獨立的勢力，稱為「山越」，主要分佈於今安徽、湖南、江西、浙江、福建一帶的山區，這些地方恰好是孫吳的勢力範圍。
所以，在群雄爭霸中孫吳還多了一個額外的負擔，就是得拿出很大的精力對付山越。在對待山越的態度上孫權繼承孫策的做法，哪裡有人挑起叛亂，就立即派兵前去鎮壓，孫吳的一線將領幾乎每人都有與山越作戰的經歷。但是，軍事討伐解決不了根本問題，一旦有機可乘，各地的山越總會起來作亂，總也殺不完滅不盡。
這次山越同時起事，範圍非常大，涵蓋了豫章、丹陽、廬陵、吳郡、會稽等郡，來勢異常兇猛，孫權不得不下達回師命令。孫權先回到了豫章郡，在那裡做出軍事部署，派呂范到鄱陽，派程普到樂安，派太史慈仍然在海昏，派韓當、周泰、呂蒙等分赴其他鬧事厲害的郡縣，全面開展平定山越的戰鬥。
解決完境內的山越問題，孫權又謀劃西征黃祖的事，這時候甘寧突然前來投奔，增加了打敗黃祖的把握。
甘寧就是射死凌操的那個人，他為黃祖立下大功，但黃祖並不重用他，甚至對他也不大尊重。黃祖手下有一個重要將領叫蘇飛，很欣賞甘寧，多次在黃祖面前推薦甘寧，黃祖不聽，反而派人秘密聯絡甘寧的部下，試圖分化瓦解他們。
在這種情況下甘寧只有再走，但又擔心黃祖不讓，心裡悶悶不樂。蘇飛看出他的心思，想再幫幫他。一次，蘇飛請甘寧喝酒，喝得差不多了，蘇飛對甘寧說：「我多次推薦你，但上面不肯用，日月如梭，人生幾何，你還是遠走他鄉吧，或許能遇到知己。」甘寧想了一會兒，說：「我雖然有這個想法，可不知道該怎麼辦。」
蘇飛對甘寧說：「我想辦法推薦你當邾縣縣長，你去那裡上任，那地方是邊境，到任後誰還能攔住你？」甘寧一聽大喜：「太好了！」蘇飛去做黃祖的工作，黃祖果然任命甘寧當了邾縣縣長，甘寧於是召集那些想跟他一起走的人，有數百人，投奔到了孫吳。
孫權親自接見甘寧，對他格外優待，把他當成老臣一樣看待。建安十二年（207），孫權再征黃祖，此戰沒有展開就草草結束了，原因不詳。到了建安十三年（208）春天，孫權發動了第三次西征黃祖戰役。
這次距上一次西征才不過幾個月時間，之所以如此著急與北方局勢有關，在孫權二征黃祖的同時曹操冒險親征烏桓，獲得大勝，完全統一了北方。孫權知道，曹操下一步將揮師南下，最有可能的是先解決劉表，之後再解決自己和劉璋。對孫權來說，與曹操直接對決的一天遲早會到來，現在能做的就是在決戰之前盡可能壯大自己的力量，打敗黃祖父子，佔有荊州西部的江夏郡、章陵郡，就是要給江東建立起一道抵擋曹操的屏障。
孫權命張昭和呂范留守吳縣，其他能帶的人馬都盡數帶上，此次出征，更是志在必得。孫權任命周瑜為前敵總指揮（前部大督），命偏將董襲、平北都尉呂蒙、代理破賊都尉凌統為前鋒，自己親率其餘各部隨後跟進。這是一場硬仗，打頭陣的人孫權用的全是年輕將領，而沒有用程普、韓當等老將，對孫權來說這需要有些魄力才行。
這一仗打得異常激烈，對黃祖父子來說，這是保命之戰，所以使盡了所有力氣拚死抵抗。而吳軍更勇猛，連下蘄春、鄂縣、邾縣等要地，沿長江一直打到了沔口。
漢水也稱沔水，沔口即漢水入長江之口，也就是今天武漢三鎮一帶，由此上溯不到百里，就是荊州西部重鎮沙羨，黃祖父子在沔口布下了一道堅固防線。黃祖父子命人在沔口的江面上橫著兩隻大船，然後用棕櫚大繩系石為碇，把船固定在江中。在這兩隻船上有上千人，他們手持弓弩，飛矢雨下，吳軍不得近前。前鋒董襲和凌統各率100人的敢死隊，每人穿兩副鎧甲，乘船突至敵人的大船下。董襲親自揮刀砍斷了系船用的兩根大繩，敵船不穩，在江中橫擺，讓開了江面，吳軍趁勢突破了沔口防線。
在其他方面吳軍也取得大勝。黃祖命部將陳就抵擋吳軍的另一路前鋒呂蒙。呂蒙與其激戰，親自將陳就梟首。凌統還率數十名健兒乘坐一條船深入敵後數十里偵察情況，路遇黃祖的部將張碩，凌統將其斬首，其他敵兵連船帶人全部俘獲。凌統回來把情況報告給了孫權，引導大軍繼續前進。
孫權報仇心切，他只想抓到殺父仇人黃祖。
吳軍各路齊進，兵至沔口城下，孫權原本想這裡會和上次在沙羨那樣再打一場攻堅戰，但結果輕鬆得多，沒費多大事就把城攻破了，黃祖父子棄城而逃。孫權有些失望，下令追捕，不惜一切代價，一定要抓到黃祖。沒過一天，好消息便傳來，黃祖在逃亡途中被呂蒙手下一個叫馮則的騎士遇到，將其梟首。黃祖的兒子黃射下落史書未予記載，想必也一同死於此戰。
這樣，第三次西征黃祖，孫權取得了全勝，報了殺父之仇，這一業績無疑徹底鞏固了孫權在江東的地位。更為重要的是，攻佔沔口後，孫吳的勢力由柴桑西進了數百里，打開了荊州東面的門戶，使周瑜這個江夏郡太守實至名歸。儘管黃祖死後劉表派長子劉琦繼任江夏郡太守，但劉琦的勢力僅限於江北地區，沔口以下的長江各要塞都掌握在吳軍手中。