司马懿临危受命，从宛城西赴长安，全权负责西部战事。车骑将军张郃、后将军费曜、征蜀护军戴陵、雍州刺史郭淮等人，均受司马懿节制。
诸葛亮又一次把北伐的方向指向祁山。在之前的三次伐魏行动中，第一次是越过祁山，第二次走陈仓道，第三次攻武都，实际上是扫清通向祁山的障碍。由此可见，兵出祁山一直是诸葛亮的第一选择。
祁山距离长安很遥远，这也决定诸葛亮的进攻难以达到奇袭及速战速决的效果。司马懿有充足的时间备战，他命费曜、戴陵先率领四千精兵，屯驻上邽（guī），其余部队全部前去增援祁山前线。当时张郃提出应该拨出一部分兵力驻守雍县及郿县——这两座城是长安的门户。司马懿反对道：“倘若前方部队能够单独抵挡敌人，是可以留守一部分兵力的；倘若前方部队没有这样的实力，就不能分散兵力。”
魏国虽然比蜀、吴强大，然而必须同时分兵防御，这大大限制了前方部队的实力。司马懿的军事原则是集中兵力，他以一个历史战例阐述了集中兵力的重要性：在楚汉战争中，英布倒向刘邦是决定双方胜负的关键点。当时西楚没能集中力量剿灭英布，而是把兵力一分为三，一军出击，两军策应，未能形成强大的打击力，终遭失败。由此可见，司马懿用兵相当老成持重，不打无把握之战。