練好內功、平定南方之後，諸葛亮就開始了北向伐魏大業。公元227年三月，諸葛亮向劉禪上了一道堪稱千古奇文的《出師表》，表達了統一天下、恢復漢朝的願望，隨後便率部前往漢中。
此次諸葛亮北伐的目的地是隴右，隴右遠離漢中，在中國戰爭史上有著相當重要的地位，因為這里人種彪悍，馬匹強壯。戰國時，秦國騎兵的戰馬有五分之一出自隴右，秦帝國正是有了隴右騎兵，才能輕鬆向西拓展領地；西楚霸王項羽得到精銳的隴右騎兵，創下了三萬人馬殺退幾十萬漢軍聯軍的奇蹟；漢帝國從這裡出征西域，征服國家無數。
掌握隴右，在冷兵器時代，就代表掌握了強大的戰鬥力。不過，諸葛亮沒有將矛頭直指隴右，他先派趙雲、鄧芝為疑兵，虛張聲勢要從斜谷攻打長安。魏國果然中計，調派大將軍曹真率兵進駐郿縣，以拒蜀軍。將魏國部隊調開後，諸葛亮親自率領主力出了祁山。
魏國祇知道蜀國有個劉備，自從劉備去世後，就認為蜀漢無人，不甚提防，所以關隴一帶兵力薄弱，防範不嚴。諸葛亮的十万精銳部隊像下山的猛虎一樣，氣勢逼人，天水、南安、安定三郡不戰而降。魏國上下驚動，這才明白諸葛亮的真實意圖，火速派出名震天下的大將張郃直撲隴右。當時曹魏的皇帝曹叡自己也移駕長安，一副兵來將擋、水來土掩的拼命態勢。
諸葛亮來到隴西城下，隴西堅守不降，太守在樓上喊話：“你們如果能夠阻住援軍，斷絕隴道一個月，那麼就可以兵不血刃地拿下這裡。否則，別看你們來勢洶洶，最終也只能勞民傷財，前功盡棄。”隴西太守的話點明了此戰的關鍵，城牆堅固，攻不得開，唯一的方法就是截住魏國援軍，斷絕隴西糧道。街亭是魏軍增援的必經之路，將要在這裡展開的蜀魏第一場遭遇戰就成為決定勝負的一戰。
同樣，選擇誰來對決張郃，便成為重中之重的選擇。當時，大家都認為應該派魏延或吳懿這樣有經驗的大將出戰街亭。魏延是劉備看好的戰將，吳懿是當時的國舅，但諸葛亮排除眾議，選擇了馬謖。馬謖是馬良的弟弟，馬良兄弟五人個個都是人才，馬良與諸葛亮私交極好，他陣亡後，諸葛亮對馬謖也非常照顧。據《三國志》記載，馬謖才氣過人，熟讀兵書，好論軍計。諸葛亮對他很是器重，常常把他叫過來談話，一談就是一整天。馬謖對事物確實有過人的見解，比如諸葛亮征南中的時候，馬謖就建議他“攻心為上，攻城為下”，諸葛亮採納了馬謖的建議，七擒七縱孟獲，平定南中。三國時對將領的破格提拔屢見不鮮，所以大家雖然對馬謖守街亭有異議，也只好保留在心裡了。
臨行前，諸葛亮再三叮囑馬謖，街亭雖小，卻關係重大，它是通往漢中的咽喉。如果失去街亭，蜀軍必敗，還指示他要靠山近水安營扎寨。
馬謖到達街亭後，不按諸葛亮的指令依山傍水部署兵力，卻要把大軍駐紮在遠離水源的街亭山上。副將王平提出反對意見：“山上遠離水源，如果魏軍將山圍住，切斷水源，斷絕糧道，我軍就會不戰而敗。”王平是從軍中摸爬滾打長大的，人非常有悟性，卻不識字。馬謖自恃熟讀兵書，沒將文盲王平的話放在心中。他躊躇滿志地說：“居高臨下，勢如破竹，置之死地而後生，這都是兵家常識。我將大軍佈於山上，使之絕無反顧，這正是製勝之秘訣。”王平再勸也無濟於事，只好眼睜睜地看著他將大軍帶到山上。
張郃率五萬部隊來到街亭，偵察到馬謖舍水上山，心中大喜，立即揮兵切斷水源，掐斷糧道，將馬謖圍困於山上，然後縱火燒山。蜀軍飢渴難忍，軍心渙散，又見四處起火，不戰自亂。張郃趁勢進攻，蜀軍大敗。馬謖見街亭失守，知道闖了大禍，都不敢回去見諸葛亮，連夜逃回成都。
聽說街亭失守，諸葛亮頓時就頹然了：失去這麼個屏障和前鋒部隊，自己已經不是張郃五万精兵的對手，而魏國的援軍正在源源不絕地趕來。無奈之下，他只好遷了隴西城附近一千多戶百姓退回了漢中。
在諸葛亮的歷次北伐中，第一次是最有可能成功的一次。劉備去世後，魏國對蜀漢疏於防守，隴右一帶沒有戰備，諸葛亮出祁山，曹魏舉國震驚，三郡不戰而降就是證據。就連魏國隴西太守都認為，如果一個月內援軍不來，用不著諸葛亮來打，城內人餓也餓死了。遺憾的是，在這麼有利的情況下，勝利卻與蜀漢擦身而過。此後，更是漸行漸遠。
諸葛亮兵敗之後，不戰而降的三個郡又回到了魏國的手裡，只有一個參軍姜維投降了諸葛亮。經此之戰後，魏國驚異地發現，他們向來輕視的蜀漢居然還有如此大的野心和能量，從此便派大將軍曹真常駐長安，專門對付西蜀部隊。曹真認為諸葛亮此次受挫於祁山，下次必定會從散關攻打陳倉，於是命令將軍郝昭進駐陳倉。從此，雍涼從軟豆腐變成了硬骨頭，諸葛亮的後幾次北伐都被硬生生地擋了回來。
勝利曾經離諸葛亮如此之近，卻飄忽遠去，縹緲難尋。而這一切，都是因為錯用了紙上談兵的馬謖。
回到成都，諸葛亮總結此戰失利的教訓，痛心地說：“用馬謖錯矣。”為了嚴明軍紀，諸葛亮下令將馬謖革職入獄，斬首示眾。馬謖在獄中給諸葛亮寫信說：“丞相待我親如子，我待丞相敬如父。這次我違背節度，招致兵敗，軍令難容，丞相將我斬首，以誡後人，我罪有應得，死而無怨。只是懇求丞相以後能照顧好我的一家妻兒老小，這樣我死後也就放心了。”諸葛亮看完信後，老淚縱橫，要斬殺自己向來器重的將領，確實讓人心痛難忍，但若違背軍法，免他一死，又將失去眾人的心，統一天下的宏願就更難實現了。於是他強忍悲痛，答應將馬謖的兒子收為義子，讓馬謖放心，而後斬殺了馬謖。
殺馬謖之後，諸葛亮又上書朝廷，要求處分自己，劉禪便將諸葛亮降為右將軍，但是依然行丞相事。諸葛亮又上了一道《街亭自貶疏》，其實就是檢討書。在疏中，諸葛亮承擔了全部責任，並指出問題的關鍵是自己用人錯誤。此外，他還建立了問責制度，規定以後但凡打了敗仗，主帥都要承擔領導責任。以後數次北伐，諸葛亮都親臨前線，坐鎮指揮。可見諸葛亮不是走過場，他是切切實實地認錯、改錯。從這一點來說，他和曹操都做得非常好。
在這次戰爭中，王平能夠始終堅持正確意見，並在戰亂中將自己的一支人馬完好地帶了回來，成為唯一沒有受處分，反而受到獎勵的將領。
馬謖被殺之後，蔣琬到了漢中，蔣琬對諸葛亮說：“天下未定而戮智計之士，豈不惜乎！”天下還沒有安定，現在正是用人才的時候，把這樣一個難得的人才殺了，難道不可惜嗎？諸葛亮又一次痛心地淚流滿面：“四海分裂，兵戈方始。若復廢法，何用討賊？”現在天下大亂，四海分裂，戰爭才剛剛開始，在這種情況下如果廢棄軍法，我們又憑藉什麼去戰勝敵人呢？
殺馬謖絕不是諸葛亮的本意。馬謖既是人才，又有威望，馬謖被斬的時候，十萬將士為之流淚。然而諸葛亮為了大局，為了蜀漢的安定團結，不得不嚴格地實施依法治國，不得不殺掉自己的愛將。
馬謖熟讀兵書，紙上談兵，頭頭是道，然而一旦真的打起仗來，就不靈了。街亭一戰，全軍覆沒，馬謖驕傲自大，聽不進別人的正確意見固然是街亭失守的重要原因，然而另一個原因，則在於他打起仗來不從實際出發，將書本上個別教條生吞活剝，亂用一氣。
在運用書本知識的時候，必須隨時注意客觀事物的發展和變化，從而根據新的情況，制定出合適的行動方針。兵法上的“憑高視下，勢如劈竹”，“置之死地而後生”，是一定具體經驗的概括和總結，只能藉鑑，不能生搬硬套。馬謖卻將實際情況和書本知識割裂開來，不分時間、地點和條件，死抱住這兩句話不放，結果勢如破竹變成四面受敵，把士兵置之死地成了把士兵引向絕境，從而導致街亭失守、自己被斬的悲劇。