正月還沒有過完，征遼大軍就出發了。
魏明帝親自送行，車駕一直送到了洛陽西明門。考慮到大軍此去剛好路過司馬懿的老家河內郡溫縣，魏明帝特意讓朝廷尚書檯右僕射司馬孚和散騎常侍司馬師代表自己把司馬懿再送到溫縣。
司馬孚是司馬懿的弟弟，「司馬八達」中的老三，司馬師是司馬懿的長子，已經30歲了，剛剛被任命為散騎常侍。對於這項細緻的安排司馬懿還是挺感動的，自從年輕時離開家鄉到曹丞相身邊任職，屈指算來已30年了。
司馬懿到了溫縣老家，河內郡太守、本郡典農校尉率地方各級官員集體前來拜見，他們是接到天子的詔書專程前來的，帶來了天子所賜谷帛牛酒。司馬懿於是在附近一個叫虢公台的地方設宴招待鄉鄰和故舊，宴會整整持續了一天。
之後魏軍主力繼續北進，進入幽州刺史部境內後加快了行進的速度，經孤竹、碣石，最後抵達遼水之畔，時間是當年的6月，比預計100天的行軍時間稍晚了一些。
大兵壓境，儘管公孫淵沒有馬上逃跑，但心裡還是挺緊張的，這一次來的是司馬懿，公孫淵知道此人是個夠狠的角色，當年以霹靂手段收拾孟達的就是他。情急之下公孫淵想到還得跟孫吳結盟，於是主動取消了偽朝廷，再次派使者去江東向孫吳稱臣，乞求孫權舉兵北伐以救遼東。
公孫淵派的使者叫什麼名字史書沒有記載，但這個使者顯然膽子夠大，因為只要有正常的思維都清楚，他根本見不到孫權就得被拉出去剁了，然而有個叫羊驋的人建議孫權不妨見見：「殺了他們是匹夫之怒，而非霸王之計也。不如因勢利導答應公孫淵，遣奇兵秘密前往助陣，如果司馬懿伐公孫淵不克，而我軍遠赴助戰就是恩結遐夷、義蓋萬里；如果公孫淵與司馬懿打得難解難分、首尾不得相顧，那我們就趁機奪其領土，以報昔日之仇。」
孫權是幹大事的人，想了想覺得有理，於是接見了公孫淵的使者，答應出兵相助，並讓他給公孫淵捎話：「我一定與弟同休戚、共存亡，即使因此死在中原我也心甘情願！只是司馬懿所向無前，也深為老弟憂慮啊！」
遼東方面，大戰已經開打，公孫淵派卑衍、楊祚率步騎數萬屯兵在遼隧，在那裡修築了兩座圍塹，一南一北，相距60多里，形成呼應，擺出決戰遼水的架勢。
司馬懿分出一部人馬做疑兵，故意製造聲勢，讓敵人以為將重點攻擊其南部圍塹，結果遼東的人馬上當，把主力幾乎都調到了南面，而魏軍則在北面悄悄渡過遼水，直趨北圍塹之下，司馬懿命令把舟船毀了，做破釜沉舟之勢。
遼水天塹已不在，眾將認為此時正可以攻擊，司馬懿不同意，他向眾將解釋了原因：「敵人營堅壘高，想在這裡拖死我們，如果強行進攻，正中其下懷，這就是王邑當年不攻昆陽的原因。古人說『敵雖高壘，不得不與我戰者，攻其所必救也』，現在敵人的主力在此，那麼他們的老巢必然空虛，我們現在直指襄平，則敵人必然恐懼，主動來找我們決戰，必然大敗之！」
魏軍不管當面之敵，直奔戰略要地襄平而來，此地即今遼寧省遼陽市，為遼東必保之地，公孫淵就在城裡，卑衍等人果然率主力跟了過來，雙方大戰於首山，魏軍大破卑衍，之後三戰三捷，卑衍率殘部退保襄平，魏軍將襄平包圍了起來。
這時已是農曆的七月，也是遼東的雨季，大雨又開始沒完沒了地下了起來，毌丘儉當初也打到了這裡，就是因為大雨而前功盡棄。雨越下越大，在襄平城外紮營的魏軍吃盡了苦頭，有人建議移營，到地勢稍好的地方躲躲雨，司馬懿不許，明令敢言移營者斬，都督令史張靜以為太尉只是說說，沒當回事，又進去勸司馬懿移營，被當即斬首，全軍驚愕。
既然不移營，那就加緊攻城吧，司馬懿也不同意，有一個叫陳圭的司馬，當年隨司馬懿參加過討伐孟達的戰鬥，他對此十分疑惑，問司馬懿：「昔日咱們攻上庸，八部並進、晝夜不息，所以能在半個月時間裡拔堅城、斬孟達。如今道路更遠，但來了以後攻勢卻更安緩，屬下實在困惑不解。」
司馬懿向陳圭以及眾將解釋說：「孟達手下人馬不多，但備下的糧食夠吃1年，當時我們將士四倍於孟達，而存糧不足一個月，以一月圖一年怎能不速戰速決？而且當時是以四擊一，勝算在手，所以不計死傷也要攻城，實際上是在與存糧賽跑。如今賊眾我寡，賊饑我飽，情況完成相反，不過遇到點雨水罷了，暫緩幾天，攻守之勢不會改變。」
說完這些，司馬懿又進一步解釋了他的策略：「自京師出發以來，我不擔心敵人來攻，只擔心他們棄城而逃。在敵人糧草殆盡之時，掠其牛馬、抄其樵牧，這是故意要驅趕他們讓他們逃。兵者詭道，應因事而變。趁著敵人以雨水而自恃、雖饑困卻未至絕境之時，應減少攻勢以安撫，為了一些小利而把敵人驚醒，並不划算。」
與此同時，遼東大雨的消息也傳到了洛陽，不少人跑到魏明帝那裡，認為雨水暫時無法退去，此役已無全勝的可能，建議下詔讓大軍還師，魏明帝不許，他認為司馬懿會臨危制變，一定可擒公孫淵。
幸運的是雨停了，司馬懿於是指揮攻城。
魏軍各種攻城方法一齊使用，挖地道、起楯櫓、用鉤橦，襄平城下矢石如雨，魏軍將士人人爭先、個個效命，攻勢猛烈，晝夜不停。
說起來，攻城這種事誰都沒有把握，它不以人多人少為勝負的先決條件，有時很邪門，城在眼前，可縱然十倍於敵也進不了那一尺，三國時代這樣的例子比比皆是。
決定城池能否守住的最關鍵因素是守城者的意志和決心，對於襄平城來說尤其如此。就在這個關鍵時刻，老天繼續眷顧著司馬懿，在攻城戰打得最激烈的當口，一顆白色流星拖著長長的耀眼的尾巴，從襄平城西南向東北方向劃去，最後墜落在梁水方向。這本是一次正常的天文現象，但在當時人們看來這是上天發出的某種警示，襄平城裡的軍民都認為這是大凶之兆，因而深為震懾，士氣大傷。公孫淵也害怕了，派自己的「相國」王建以及「御史大夫」柳甫出城乞降……
司馬懿的回答只有兩個字：「不許！」
司馬懿命人把王建、柳甫斬首，公孫淵不死心，又派「侍中」衛演等人前來乞降，司馬懿對衛演說：「現在有五種可能：能戰就戰，不能戰就守，不能守就走，以上是三種，其他兩種是降與死，公孫淵不肯把自己綁了親自來求降，到底想選哪一種呢？」
公孫淵知道遇上硬茬了，他原來還幻想來一場假投降，只要能躲過眼前這一關這一劫怎麼樣都行，待魏軍一撤，他又能在遼東東山再起，現在看來司馬懿已識破了他的心思，絲毫不給自己留後路，公孫淵無奈，只得冒死突圍，這正是司馬懿希望的，他下令縱兵追擊，追至梁水把公孫淵擊殺，有的史書附會說，殺公孫淵的具體地點就是那顆白色流星墜落的地方。