公元227年冬天，诸葛亮带领大军驻守汉中。希望随时可以找机会进攻魏国。离开成都的时候，他给后主刘禅上了一道《出师表》，要后主不要满足现状，妄自菲薄；要亲近贤臣，疏远小人；并且表示他决心担负起兴复汉朝的责任。
到汉中后，诸葛亮采用声东击西的办法，装出要攻打郿城的样子。魏军得到情报，果然把主要兵力去守郿城。诸葛亮趁魏军不防备，亲自率领大军，突然从西路扑向祁山（今甘肃礼县东）。

自从刘备死后，蜀汉多年没有动静，魏国毫无防备，守在祁山的魏军抵挡不了，纷纷败退，祁山北面天水、南安、安定三个郡的守将都背叛魏国，派人向诸葛亮求降。

魏明帝曹叡立刻派张郃带领五万人马赶到祁山去抵抗，还亲自到长安去督战。诸葛亮到了祁山，决定派马谡、王平带领一支人马去占领街亭（今甘肃庄浪东南），作为据点。

马谡这个人确是读了不少兵书，但是刘备在世的时候，看出马谡不大踏实。他在生前特地叮嘱诸葛亮，不能派他干大事。但是诸葛亮没有把这番话放在心上。

马谡和没有打仗的经验，自以为熟读兵书，他和王平带领人马到了衔亭，看了地形，就开始在山上扎营，布置埋伏。

张郃率领魏军赶到街亭，吩咐手下将士，在山下筑好营垒，把马谡扎营的那座山围困起来。魏军切断了山上的水源。蜀军在山上断了水，连饭都做不成，时间一长，自己先乱了起来。张郃看准时机，发起总攻。蜀军兵士纷纷逃散，马谡要禁也禁不了，最后，只好自己杀出重围，往西逃跑。

由于马谡用兵不当，街亭失守，蜀军失去了重要的据点，又丧失了不少人马。诸葛亮为了避免遭受更大损失，只得把人马全部撤退到汉中。