Tháng giêng năm 254, Tào Phương trước sự chèn ép của họ Tư Mã bèn mưu cùng Hạ Hầu Huyền (người cùng họ tông thất Tào Ngụy) và các đại thần Lý Phong, Nhạc Đôn, Tô Nhạc, Trương Tập đánh đổ Tư Mã Sư để đưa Hạ Hầu Huyền lên làm phụ chính Đại tướng quân. Mưu sự bại lộ, Tư Mã Sư khép tội Hạ Hầu Huyền cùng những người cùng cánh là Lý Phong, Trương Tập, Nhạc Đôn, Lưu Hiền tội danh "phế bỏ đại thần" và tru di tam tộc họ.

Sau khi giết phe Hạ Hầu Huyền, đến tháng 9 năm đó Tư Mã Sư nhân danh Quách thái hậu phế truất Tào Phương làm Tề vương, bắt trở về đất phong ở Lâm Tri.

Nghe tin Tư Mã Sư làm việc phế lập, Trấn đông tướng quân Vô Khâu Kiệm và Thứ sử Dương châu là Văn Khâm cùng các tướng lĩnh vùng Dương châu khởi binh thảo phạt Tư Mã Sư, giương cờ phò tá nhà Tào Ngụy.

Lúc lâm trận chống Văn Khâm, Tư Mã Sư đã bị bật một con mắt ra khỏi hố mắt. Sau khi chiến trận Dương châu chấm dứt, bệnh tình ông ngày càng nặng. Sang tháng 1 năm 255, Tư Mã Sư bệnh nặng qua đời, thọ 48 tuổi. Em ông là Tư Mã Chiêu kế tục chức vụ của ông.

Năm 255, Khương Duy lại một lần nữa đề nghị xuất quân bắc phạt. Trương Dực phản đối, cho rằng "nước nhỏ dân mệt, không nên lạm dụng vũ lực". Duy không đồng tình, vẫn quyết tâm xuất quân. Lúc này phía Ngụy đã có nhiều thay đổi: Quách Hoài đã mất, Trần Thái thay thế làm Chinh Tây tướng quân, còn Vương Kinh thế vào chỗ Trần Thái làm Thứ sử Ung châu. Hạ Hầu Bá sợ bị họ Tư Mã giết, chạy qua Thục đầu hàng và được phong đại tướng.

Cuối năm, Khương Duy cùng với Hạ Hầu Bá, Trương Dực tiến ra Địch Đạo. Quân Thục đại phá Vương Kinh ở bờ tây sông Thao Thủy, giết chết hơn một vạn quân địch. Kinh lui quân giữ chặt thành Địch Đạo, bị Duy vây hãm ở đó.

Trương Dực khuyên: "Nên dừng lại ở đây, không nên đánh tiếp, nếu tiến thêm có thể đánh mất công lớn vừa lập." Khương Duy không nghe, tiếp tục bao vây nhưng nhiều ngày không hạ được thành. Phía Ngụy sai Chinh Tây tướng quân Trần Thái cùng Đặng Ngải, Hồ Phấn, Vương Bí, Tư Mã Phu tiến binh giải vây.

Lúc này thành Địch Đạo của Vương Kinh còn không đầy 10 ngày lương, Trần Thái gấp rút tiến quân đến núi Hạng Lĩnh phía Đông Nam thành Địch Đạo, đóng quân trên đỉnh núi, đêm đốt lửa làm hiệu, ngày thì thúc trống. Quân Ngụy trong thành Địch Đạo thấy cứu viện đã đến, đều lấy làm phấn chấn.

Khương Duy tấn công lên núi. Trần Thái dẫn quân đi ra Lũng Tây, trên đường thấy núi non hiểm trở thì nghi có phục binh, rẽ qua con đường phía Nam. Quả đúng là Khương Duy đã cho quân mai phục ở đó được 3 ngày, nay thấy bẫy không thành bèn đem binh vượt núi đuổi theo. Hai bên giao chiến, Duy gặp bất lợi phải rút lui.

Lúc này quân Ngụy ở Lương châu cũng vừa tới phía nam Kim Thành, chiếm giữ nơi sườn núi. Trần Thái hẹn với Vương Kinh cùng tiến binh ra đường lớn, muốn chặn đường lui của quân Thục. Khương Duy lo sợ, phải rút quân về đóng giữ Chung Đê.

Mùa xuân năm 256, Khương Duy được Lưu Thiện phong làm Đại tướng. Đến mùa thu, Khương Duy từ Chung Đê tiến ra Kỳ Sơn, nhưng tướng Ngụy là Đặng Ngải đã có phòng bị trước, Duy bị đẩy lùi.