军汉中，处死马谡，向全军承认错误，并向后主上奏说：“臣下以浅薄的才能，担当了不能胜任的职务，亲自领受君令和所赐锦旗斧钺以激励三军，却未能按照规章、严明军纪，面临大事而犹豫决策，以致发生了街亭违背军令的错误，箕谷发兵失于处事不谨慎，其责任都由于为臣用人不当。臣下既无知人之明，考虑问题又多有糊涂之处，依据《春秋》军事失利先罚主帅的典则，此次战争失误的主要责任在臣。自请降职三级，以罚过错。”于是后主改任诸葛亮为右将军，代行丞相事，仍如以前一样总管全国军政。同年冬天，诸葛亮再次出兵散关，围攻陈仓，魏国派曹真率军前来抵抗，诸葛亮军粮用完后返还。魏将王双率领骑兵追击诸葛亮，诸葛亮列阵与魏军交战，击败魏军，斩杀王双。
建兴七年(229)，诸葛亮派遣陈式领兵攻打武都、阴平。魏国雍州刺史郭淮率领众军准备攻打陈式，诸葛亮亲自领兵进取建威，郭淮只得退守雍州，诸葛亮于是平定武都、阴平二郡。后主刘禅下诏策封诸葛亮说：“街亭一仗，主要罪责在于马谡，而您引罪自责，深深贬抑自己，当时难违您的心愿，只好同意自贬三级的请求，去年率兵扬我军威，斩杀王双；今年再次领兵出征，郭淮逃遁；招降安抚氐、羌各部，收复武都、阴平二郡，威风震慑凶敌，功勋昭著天下。现在天下尚未平定，元凶首恶仍未铲除，您肩负着重任，主持军国大政，长期贬损自己，极不利于弘扬先帝的伟大事业，现在恢复您的丞相职务，请您不要推辞。”建兴九年(231)，诸葛亮再次兵出祁山，用木牛运送物资，粮尽退军。与魏将张郃交战，张郃被蜀军射死。
建兴十二年(234)春，诸葛亮统率全军从斜谷出兵，用流马作为运输工具，进军占据武功县五丈原，魏军主将司马懿与之对垒相持于渭南。诸葛亮常常担心粮草接济不上，而使自己志愿不得实现，于是将部队分作两部分，一部分就地开荒耕种，作为长期驻扎的基础。耕垦的兵卒杂居在渭河附近的百姓中间，百姓生活安定，军卒所种不谋私。蜀、魏两军相持一百多天。当年八月，诸葛亮患疾逝于军中，年仅五十四岁。待蜀军撤走，司马懿一一巡视蜀军的驻扎营地，叹道：“孔明真是天下奇才啊！”诸葛亮遗言命令部下将自己葬在汉中定军山，依山势修建坟墓，墓穴仅能容纳下棺材，穿平时的衣服入殓，不必用其他器物殉葬。后主刘禅下诏祭奠诸葛亮说：“您天生兼备文、武的才干，英明睿智忠厚诚实，受先帝托孤遗命，尽心力辅佐寡人，使衰微待绝的汉室复兴，立志平定天下战乱，整治六军，岁岁出战，英武盖世，威镇天下
