自貶三級
諸葛亮回到成都，讓將士們好好休整一下，準備征討魏國。轉過了年，魏文帝曹丕病死了，他的兒子曹睿[rui]即位，就是魏明帝。諸葛亮聽說了這件事，覺著北伐的時機到了。公元227 年，他給後主劉禪上了一個奏章[《出師表》]，大意是說：「先帝[指劉備]創立基業，半道兒上晏駕了。現在天下三分，咱們蜀國最弱，真是到了生死存亡的關頭。希望您能光大先帝的美德，發揚志士的正氣；要親近忠臣，信任他們。這樣，漢室復興的日子一定會到來的。」又說：「我本來是一個平民，並不想顯露自己。先帝不嫌我沒有地位，三次到茅廬看我，又把國家大事托付給我。我要盡一切力量，平定中原，完成先帝的遺願。」
諸葛亮先放出風聲，說要從斜谷[在陝西省褒縣西南]出山，向北攻打郿城。他叫趙雲、鄧芝到箕谷[在陝西省褒城西北]屯兵，迷惑魏軍，好像蜀軍的主力都在東邊。魏明帝得到報告，急忙派大將軍曹真帶兵到郿城去防備。沒想到諸葛亮親自帶領大軍去攻打西邊的祁山[在甘肅省西合縣北]。防守祁山的魏軍本來就鬆鬆垮垮，冷不防讓蜀軍這麼一衝，都逃跑了。蜀軍出了祁山，沒費多大事就佔領了天水、南安、安定三個郡。當地有不少人都歸順了蜀軍。
有個叫姜維的魏國將領也投靠了諸葛亮。諸葛亮知道姜維又有智謀又有膽量，而且和自己剛出茅廬的時候一樣，也二十七歲，高興得什麼似的，對大夥兒說：「姜維忠於漢室，還深知兵法，是個難得的人才。」他讓姜維做了將軍。
過了不久，魏明帝派大將張■帶領五萬人馬來援救天水，自己也親自到長安督戰。諸葛亮看了看地圖，料想張■往西邊來，準得先奪取街亭[在甘肅省清水縣東北]這個交通要塞。要想打敗張■，非得守住街亭不可。守街亭的一定得是個有本事的人，不然怎麼能對付得了有勇有謀的張■吶？有的人建議諸葛亮派魏延或者吳懿這兩個大將去，諸葛亮不同意。他已經看中了參軍馬謖。馬謖從小熟讀兵書，遇事挺有見解。平定南中的時候，他不是說過要「攻心為上」嗎？這回讓他去鎮守街亭準沒錯。諸葛亮這麼一想，就派馬謖做主將帶著兩萬幾千人馬到街亭去；還讓王平做了副將。
臨走的時候，諸葛亮對馬謖、王平說：「街亭是通向漢中的要道。你們到了那兒，要在通路上紮營，再多加些柵欄，一定要把張■擋住。」馬謖聽了隨便點點頭，帶著人馬和王平走了。諸葛亮不怎麼放心，又讓魏延帶一支人馬在後面接應。
馬謖、王平到了街亭，先一起看地形，準備紮營。馬謖前後左右看了幾眼，忍不住地樂了，對王平說：「咱們丞相有時候膽兒特別小。你看，這兒的地形險要，那邊還有一座山。咱們把人馬就埋伏在山上的樹林裡，張■再有本事也過不來。」王平提醒他說：「臨來的時候，丞相說要守住通道，多加柵欄，不讓魏兵過來。我看還是在這道口上紮營好。」馬謖撇了撇嘴說：「我看在山上紮營比山下好。敵兵來了，咱們在高處，他們在低處，往下一衝，還怕殺不敗他們？」他見王平連連搖頭不同意，心想：「你這個人打了一輩子仗，字也認不了幾個，還跟我逞能？丞相還喜歡聽我的，你算什麼吶？」他這話沒說出來，臉上已經露出了瞧不起的樣子。
王平可不管別人怎麼想的。他認真地說：「依我看，這座山是個絕地。要是人家斷了水道，咱們困在山上沒水喝，別說打仗，活也活不了。」王平這幾句話真把馬謖給問住了。可是他不願意向王平認輸，就拿出主將的身份，胳膊來回比劃著說：「你懂得什麼？兵法上說：『置之死地而後生』。魏軍要是斷了水道，咱們的將士就會拚命。人一拚命，誰也擋不住。」王平見馬謖死活不聽自己的，覺著這可不是鬧著玩兒的事。他想了想說：「你要上山，就分給我一部分人到別的地方紮營，也好相互有個救應。」馬謖勉強答應了，讓王平領著一千人到離山頭十里遠的地方紮營去了。
張■來得真快！他果然帶兵直奔街亭來了。聽說蜀軍把大營紮在了山頭上，張■馬上有了主意。他下令把山頭圍了個不透風，不准蜀兵下山打水；還在山下佈置陣勢，築起壁壘。真讓王平說著了，蜀兵都給困在山上。馬謖在山上又想起「置之死地而後生」這句話，下令叫士兵分頭往山下衝。可魏軍的弓箭手更厲害。箭密密麻麻地往上飛，蜀兵一個個倒下了。僥倖衝下去的幾個，也叫魏兵殺的殺，捉的捉。蜀兵沖了幾次，讓魏兵給擋回幾次。馬謖這可急壞了，直後悔沒聽王平的勸告。怎麼辦吶？沖又衝不下去，水又打不上來，連飯都做不成了。到了晚上，大夥兒又餓又渴，實在熬不住。末了兒，「不打自亂」，亂哄哄地一下子就散了。張■看見這種情形，把手一揮，魏兵都衝上山來。蜀兵哪兒還能交戰吶？紛紛放下兵器，都投降了魏軍。馬謖帶著親信殺出重圍，往西逃跑，沿路又遇到魏兵截擊。他們打一陣，敗一陣，敗一陣，逃一陣，兩萬兵馬最後只剩下幾千人了。
張■又分出一部分人馬去打王平的營寨。王平知道寡不敵眾，讓士兵守在營裡，把戰鼓敲得震天響，好像有千軍萬馬似的。魏軍給鬧懵[měng]了，不敢殺進去，只好退兵。王平等魏兵走遠了，才把人馬集合起來，往西退兵。半路上，他還收集了不少馬謖的殘兵敗將。
這時候，諸葛亮駐紮在西縣[在甘肅省天水市西南]。他聽說街亭失守，急得坐也坐不住，站也站不穩。街亭這一丟，再也沒什麼險要的地方能阻擋張■的大軍了。憑蜀軍這麼點兒人馬，跟魏軍硬拚是拚不過的。千辛萬苦得到的一點兒戰果，一下子全白費了。諸葛亮多難受哇！
光難受也沒用，張■的人馬說到就到。諸葛亮得趕快離開西縣。他下令全軍馬上撤回漢中。等他到了漢中，西縣那邊兒的消息也到了：張■和曹真的人馬合在一起打過來，把天水、南安、安定三個郡又都奪了回去。諸葛亮又急又氣，想不到馬謖敢這麼不聽將令，誤了北伐的大事。
過了幾天，馬謖、王平帶兵回來了。諸葛亮立刻把馬謖叫進來，責問他為什麼違反軍令，失守街亭。馬謖還有什麼可說的吶？只好低頭認罪。諸葛亮說：「你和我雖然相好多年，可是這次不把你治罪，全軍不服。」他把馬謖下了監獄。
馬謖在監獄裡給諸葛亮寫了一封信。說：「丞相平時待我像待親生兒子一樣，我也把您當成我的父親。這次我犯了死罪，只求您能想著『殺鯀用禹』的故事[相傳鯀治水失敗，舜帝殺了他，又用他的兒子禹治水]，我死了也放心了。」馬謖連後悔帶害羞，死在獄裡了。
諸葛亮聽說馬謖已經死了，傷心得大哭起來。他親自祭祀了馬謖，又吩咐好好撫養馬謖的家屬。他想起先帝劉備在白帝城臨死的時候，曾經跟自己說起過馬謖。劉備說馬謖這個人言過其實，不能大用。諸葛亮倒是一直以為馬謖挺有才華，總是重用他。有時候跟他說起用兵打仗的事，從白天能一直聊到黑夜。萬沒想到這次北伐就敗在他手裡。諸葛亮這麼一想，覺著失守街亭，完全是自己用人不當造成的，要處罰也應當處罰自己。他馬上給後主寫了一個
奏章，自己責備自己，請求把官職降三級。諸葛亮說：「這次不把你治罪，全軍不服。」劉禪接到奏章，拿不定主意，就問蔣琬該怎麼辦。蔣琬說應該答應丞相的請求。因為諸葛亮自己要求降職三級，也是讓大夥兒都知道，誰有錯都得受罰。劉禪就把諸葛亮降為右將軍，還讓他執掌丞相的職權。他讓蔣琬拿著詔書到漢中去見諸葛亮。
蔣琬到漢中把降三級的詔書給了諸葛亮。他見諸葛亮心情挺不好，以為他是為馬謖傷心，就安慰說：「現在天下沒安定，死了這麼一個有才能的人，是不是有點兒可惜呀？」諸葛亮很鄭重地說：「不能這麼看。當初孫武所以能打勝仗，就因為紀律嚴明。現在北伐才剛開始，如果遇事不按軍法辦，怎麼成吶？」蔣琬又說：「是不是再發些兵馬來？」諸葛亮搖搖頭說：「這次失敗不是因為兵少，是因為我用錯了人。我正打算減少一些兵將，再好好檢查檢查自己的過失，做到賞罰分明。不然，兵再多也沒用。」他又對將士們說：「你們今後也要多指點指點。誰看我有什麼錯處，就跟我說。大家都能這麼做，北伐才有大功告成的一天。」
打這兒以後，諸葛亮就在漢中著著實實地訓練軍隊，獎勵生產，準備找機會再出兵伐魏。魏明帝看著西邊安靜了，才放心回了洛陽。可是這時候，東吳那邊又打起來了。