第一次北伐就這樣結束了，總的來說打了敗仗。
諸葛亮回到漢中，還來不及休整就著手檢討此次戰敗的原因，追究相關人員的責任。毫無疑問，街亭慘敗是此戰被迫逆轉的關鍵，馬謖是戰敗的第一責任人。
可這時大家才發現，馬謖找不到了。蜀軍從街亭敗下來，1萬多人只剩下了1000多人，他們是在王平等將領率領下回來的，而馬謖下落不明。
馬謖幹什麼去啦？他潛逃了。街亭戰敗，馬謖知道這個禍闖得太大了，他又悔又怕，沒敢回去，逃跑了。他是怎麼逃的、逃到了哪裡，史書沒有詳細交代，只有馬謖的好朋友向朗知道一些細節，向朗此時正以丞相府長史的身份在漢中供職。
打了敗仗，已經犯下大錯；又私下逃走，一錯再錯。可最終馬謖還是回來了，是自己跑回來的還是被抓回的史書也沒有記載，諸葛亮命令把馬謖下獄審查。諸葛亮與馬良、馬謖兄弟感情很深，他們之間的交往可以追溯到青年時期，尤其是馬良，是諸葛亮的摯交，馬良稱諸葛亮為「尊兄」，按當時的習慣非親戚關係一般不這樣稱呼。馬良為國盡忠後諸葛亮視馬謖為自己的弟弟，對他的才華也十分欣賞。但感情代替不了國法軍規，諸葛亮不會徇任何私情。
在獄中馬謖也知道罪責深重，給諸葛亮寫信說：「您一向拿我當兒子看，我也把您當作自己的父親，願您能體察舜殺了鯀卻能起用禹的大義，使我二人平生之交不因此事而虧損，我雖死了，也無恨於黃泉！」馬謖說的是一段上古往事，那時洪水滔天，舜命鯀治水，但無功，舜殺鯀於羽郊，但舜不因此廢人，後來又命鯀的兒子禹去治水，禹治水功成。馬謖說此話有兩層意思：一是想說街亭之敗雖罪不容赦，但不是自己刻意為之，就像鯀治水無功一樣，都是天命使然；二是想以此向諸葛亮托付後事，希望諸葛亮能一如既往善待馬氏族人。
馬謖有子女，但情況不詳。馬良的兒子馬秉在蜀漢任騎都尉，很受諸葛亮和後主的信任。
馬謖該不該殺？大家對此還有不同意見。
勝敗是兵家常事，打了敗仗不一定就犯了死罪，關鍵要看打的是什麼樣的敗仗、仗又是如何敗的，除非有特別的情況、造成了十分嚴重的後果，一般情況下敗軍之將可以被降職、撤職，卻很少有立即砍頭的。
只憑打敗仗馬謖還不至於死，但這又是影響全局的街亭之敗，殺他也應該。所以，殺馬謖，說得通；不殺馬謖，也不算枉法。但馬謖不該犯下第二個大錯，那就是逃亡，這一條也是大罪，不說打敗仗的事，僅這一項也能定死罪，馬謖離死刑又近了一步。
但仍然有人建議不要殺，蔣琬正好由成都來漢中，勸諸葛亮：「當年晉楚相急，楚王殺了成得臣，可以想見晉王是多麼高興。現在天下未定，卻殺才智之士，豈不可惜？」成得臣是楚國名將，他指揮楚軍在城濮與晉軍會戰，結果楚軍大敗，大家都跑去向晉文公道賀，晉文公卻憂心地說「楚軍主帥成得臣還在，我們的災難恐怕還沒結束」。但楚王因打了敗仗而斬殺了成得臣，晉文公聽到後如釋重負，喜不自勝，比打了勝仗還高興。
諸葛亮明白蔣琬的意思，人才確實也難得。但諸葛亮內心裡已堅定殺馬謖以明軍紀的想法，聽完蔣琬的話他流下了眼淚，對蔣琬說：「孫武之所以能決勝於天下，在於他用法嚴明。所以昔日楊干亂法，魏絳殺其僕人。現在天下分裂，兵爭正起，如果不講法紀，拿什麼討伐賊人呢？」諸葛亮講的也是晉國故事，那是在晉悼公時，他的弟弟楊幹犯法，大夫魏絳處斬了楊干的僕人，晉悼公認為魏絳做得好，命魏絳主持晉國軍隊。現在正因為大業未興，處在用人之際，所以更要講法紀，這樣才能吸引更多的人才。
諸葛亮還是把馬謖殺了。
蜀軍將士聽說馬謖被殺，無不為之流淚，諸葛亮也親自為他祭奠，後來待馬謖的遺孤如自己的親生孩子一樣。就諸葛亮殺馬謖一事後世的史學家曾提出過不同意見，晉代史學家習鑿齒認為，蜀國居於偏僻之地，優秀人才本來就少，現在殺俊才，只能退收庸才，諸葛亮雖然強調了法紀，卻害了人才，還能成就什麼大業？但這個邏輯是講不通的，如果是個人才就可以不受法律的約束，那這個世界會恐怖成什麼樣？
參加街亭戰役的其他幾位將領也受到了處罰，張休、李盛與馬謖一同被殺，另一位將領黃襲被奪去了兵權，沒有被追責的只有王平，因為他曾力諫馬謖，兵敗後又能組織有效撤退，減少損失，所以不僅沒有受罰，而且由裨將軍進位為討逆將軍，封亭侯。
趙雲雖然組織撤退有功，但畢竟箕谷還是打了敗仗，諸葛亮奏請後主，將趙雲的鎮東將軍降為鎮軍將軍，相當於由兵團司令降職為軍長。
向朗知道馬謖潛逃的事卻沒有報告，因此也受到連累，諸葛亮二話不說，把向朗一擼到底。向朗的仕途本來一直被看好，在諸葛亮著意培養的人中，向朗是最有前途的人之一，資歷、地位都遠在蔣琬、費禕等人之上，但此事嚴重影響了他的發展，雖然數年後他重新復出，但也只是在朝廷裡擔任了光祿勳的閒職。
馬謖手下有一位姓陳的參軍也因為此事受到處罰，被諸葛亮處以髡刑，即剃去頭髮的一種有期徒刑。此人有一個兒子，特別好學，後來拜蜀中大學者譙周為師，他就是《三國誌》的作者陳壽。
有人認為，正是因為陳壽的父親此次受罰，加上諸葛亮死後陳壽又被諸葛亮的兒子諸葛瞻所輕視，才影響到他著史的忠實性，在《三國誌》裡陳壽評價諸葛亮「隨機應變和用兵的謀略不是他的特長，缺乏應敵之才」，又評價諸葛瞻「只善於書法，名氣很大但沒有實才」。這些評價都不客觀，受到大家的批評。
這其實並不客觀，只要認真讀完陳壽為諸葛亮所作的傳記，就會發現他對諸葛亮是極為推崇的，在《三國誌》裡陳壽對諸葛亮有大量的讚頌，並明確地說諸葛亮是治世的良才，可以與管仲、蕭何相匹敵，不存在有意詆毀。諸葛亮的第一部文集也是陳壽編著的，因為他的努力諸葛亮的許多作品才得以保存下來。至於諸葛亮的將略，這是個有爭議的話題，陳壽的看法至少算是一家之言吧。
該殺的殺了，該罰的罰了，諸葛亮認為對此事的追責還沒有結束，有一個也要受到懲罰，這個人就是他自己。為此，諸葛亮向後主上表，主動承擔責任：「我以淺薄的才能，佔據著不能勝任的職位，執掌軍權，督率全軍，卻不能按照規章，嚴明法紀，面臨大事而不慎重，發生了馬謖在街亭違抗軍令的錯誤以及趙雲在箕谷戒備不嚴的過失，這些都是我用人不當造成的。我清楚對下屬不瞭解，考慮問題不周全，按照《春秋》裡提出處罰主帥的原則，我應當受到處罰。請將我的官職降低三級，以懲罰這個罪過。」
這次打敗仗諸葛亮的確負有責任，正如這份上疏中所說，他的責任在於用人不當，錯用了馬謖，造成了無可挽回的損失。
但是誰沒打過敗仗呢，誰又沒走過麥城？曹操一生打過多少敗仗？孫權也打過，劉備也打過，有勝就有敗，普通將領兵敗受罰，但對於大軍統帥，還沒怎麼聽說過打敗仗受懲罰的，諸葛亮自己不提，不會有人去追究他的責任。
但諸葛亮一向執法嚴明，馬謖有錯，他不包庇，趙雲、向朗他本可以睜一隻眼閉一隻眼，但也不馬虎，輪到自己，更是帶頭執法。後主接到奏疏，按照諸葛亮的意見，下詔將他由丞相降為右將軍，代行丞相職權。