至德二年（757年））二月，唐肃宗李亨到达凤翔（今陕西省凤翔县），这是他反攻叛军，收复京师的大本营。陇右、河西、安西、西域各地的兵陆续抵达，江、淮的物资也运过来了。长安居民听说皇帝就在附近，纷纷逃离京师，投奔凤翔。反攻的时机成熟了，至少在唐肃宗看来是如此。
但该怎么攻呢？李泌建议先取范阳，端了叛军的老巢。当初，他为唐肃宗制定了一个平叛战略，内容大致是：令李光弼从太原出井陉，牵制住叛军大将史思明、张忠志，让他们不敢离开范阳；令郭子仪从冯翊（今陕西大荔县）进入河东（今山西永济），牵制住叛军大将安守忠、田乾真，让他们不敢离开长安。唐肃宗坐镇扶风，命部队配合郭子仪、李光弼轮流出去，叛军救首则击其尾，救尾则击其首，让他们在数千里的战线上疲于奔命。等他们跑累了，再命建宁王李倓为范阳节度大使，与李光弼一道攻取范阳。然后官军四面进攻，将叛军肃清干净。
现在各地援军已到，休整得也差不多了。李泌提出按照当初的战略布署，先攻打范阳。
唐肃宗不同意，说：“现在大军云集，粮草也有了，应当直捣叛军腹心，收复京师。怎么还要行军数千里，去攻打范阳？你这也太迂腐了吧。”
李泌回答说：“我们现在攻打两京，肯定能攻克。问题是，叛军会东山再起，我们会再次陷入困境。这并非长久之计。”
“为什么呢？”唐肃宗问。
“我们现在依靠的，都是西北边塞守军与各部落的胡兵，他们耐寒怕热。借他们新来时的锐气，攻叛军疲惫之师，取胜是没问题的。但现在是春天，长安和洛阳的天气已经开始转暖。叛军收集余众，逃回老巢，关东天气炎热，官军适应不了，想要回去，到时留也留不住。叛军厉兵秣马，等我们的主力走后又卷土重来，再度南下，战争将没完没了。因此不如先端了叛军老巢，让他们无路可退，这样可以永绝后患。”
如果唐肃宗采纳了李泌的建议，长安的收复会推迟些，但安史之乱的平定或许还会更快，困扰唐朝百余年的藩镇之祸也不会发生了。但唐肃宗只是个凡人，没有神仙弟弟李泌那样的高瞻远瞩，因此断然拒绝了李泌的建议。

唐肃宗既然决定收复长安，于是任命郭子仪为司空、天下兵马副元帅，让他带兵到凤翔会合。长安叛军守将李归仁听到这个消息后，率领五千精骑在三原（今陕西三原县）北面截击郭子仪。郭子仪派仆固怀恩等人埋伏在白渠（三原县的一条人工河）留运桥边，几乎把李归仁的骑兵全部歼灭。李归仁因为会游泳才捡得一条性命。
郭子仪与关内节度使王思礼在西渭桥（位于今咸阳市西南）胜利会师，随后他们向前，进驻潏（yù）水（渭水支流）西岸，安守忠和李归仁则屯军于长安西郊的清渠，双方对峙了七天，谁也不敢先动。
一直这样僵持下去也不是办法。至德二年（757年）五月初六，叛军开始撤退，郭子仪下令全军追击。不料，这是叛军的一条诱敌之计。他们用九千精锐骑兵摆成一个长蛇阵，唐军向中间进攻，正中叛军下怀，蛇头蛇尾霎时变成左右两翼，夹击中间的唐军。唐军大败，军用物资以及武器兵械都丢给了叛军。郭子仪只好退保武功。

经此一役，郭子仪意识到叛军的战斗力仍然十分强大，劝唐肃宗向回纥求援。回纥葛勒可汗派儿子叶护与将军帝德带领四千精兵来到凤翔。唐肃宗大喜，大摆宴席招待回纥人，赏赐他们大量的财物。广平王李俶还与叶护结拜为兄弟。
九月十二日，元帅、广平王李俶带领朔方、河西、西域各地的人马以及回纥兵共十五万，对外号称二十万，从凤翔出发。到达扶风后，郭子仪又如吃好喝地招待了回纥军三天，反倒弄得回纥人不好意思起来。他们的叶护说：“如今国家有难，我们远来相助，仗还没打，怎么现在就大吃大喝？”
回纥人这么积极是有条件的。唐肃宗急于收复长安，与回纥人约定：“收复京城之日，土地、男子归中国所有，金银财宝与女人都归回纥。”
这个约定实在是让人郁闷，直想骂娘！那些“都人回面向北啼”的长安百姓们，如果当时知道了唐肃宗与回纥的这个约定，不知是否还会“日夜更望官军至”？看来唐肃宗为了收复长安是不择手段，不计后果了。
九月二十五日，各路人马同时出发，两天后到达长安城西，在香积寺北、沣水（渭水支流）之东摆开阵势。李嗣业（就是原来高仙芝手下那位善使陌刀的将军）率领前军，郭子仪率领中军，王思礼率领后军。
香积寺兴建于唐高宗永隆二年（681年），是佛教“净土宗”祖庭，唐代著名的樊川八大寺之一。但让香积寺闻名遐迩的还是王维的那首《过香积寺》：
不知香积寺，数里入云峰。
古木无人径，深山何处钟。
泉声咽危石，日色冷青松。
薄暮空潭曲，安禅制毒龙。
香积寺如今依然存在，是全国重点文物保护单位。历经千年沧桑，这座寺庙多次惨遭浩劫，大量文物遭毁损和遗失。即将到来的这场大战，则是香积寺历史上最为惨痛的一次劫难。

叛军不甘示弱，安守忠、李归仁率领十万人马在唐军北面列阵。
李归仁首先出来挑战，唐军将他击退后，挺进到叛军阵地前面。这应当又是叛军的一个诈败之计，目的是麻痹唐军。
还未等唐军靠近营寨，叛军突然全军出动。唐军无法抵挡，只好后退。追与退的角色瞬间调换过来，叛军乘机突进，唐军顿时大乱，士兵们惊慌失措。
眼看唐军又要吃败仗了，李嗣业挺身而出，说：“今天如果不以身挡贼，我军就全完了。”说完，他像三国时的许禇一样，把上衣一脱，手执长刀，立于阵前，大声呼喊，奋勇杀敌，杀了几十人，唐军的阵地才稍稍稳定下来。接下来，李嗣业又率领前军，每人各执一把长刀，排成人墙向前推进。李嗣业身先士卒，所向披靡。他的部将王难得，确实是难得的一员勇将。为了救一员副将，王难得被箭射中了眼眉，眼皮垂下来挡住了视线。他拔出箭，扯掉眼皮，满脸是血，即使这样，仍然毫不退缩，奋战不已。
两军交战前，叛军在阵东埋伏了一支精锐骑兵，打算从后面偷袭唐军。所幸的是，唐军的侦察兵发现了叛军伏兵。仆固怀恩率领回纥军把叛军伏兵几乎杀了个干干净净。
叛军与唐军交战，多次靠伏兵取胜。现在伏兵被灭，叛军士气顿时大落。李嗣业率部与回纥军绕到叛军背后，与唐军主力前后夹击。这一仗，从午时（12点）一直杀到酉时（下千六点），叛军六万多人被杀，跌入濠沟中被压死、踩死的不计其数。叛军终于抵挡不住，残兵退入长安城。
仆回怀恩对广平王李俶说：“叛军要弃城逃跑了，让我带二百骑兵去追，把安守忠、李归仁绑来。”
李俶说：“将军已经很辛苦了，先休息休息，等明天吧。”
“李归仁、安守忠都是叛军中骁勇善战的猛将，突然被我们打败，此乃天赐良机，怎么能错过呢？如果让他们重整部队，再与我们作对，到时后悔就来不及了。兵贵神速，为什么要等明天！”
广平王坚决不同意，命令仆固怀恩回营。怀恩去而复返，一晚上跑了四五次，直到天亮，李俶都没有答应他的要求。果然，黎明时分，侦察兵报告，安守忠、李归仁与长安留守张通儒、田乾真放弃长安，逃走了。
到手的机会就这么白白浪费了。广平王的举动一直让我百思不得其解，他在顾虑什么呢？怕仆固怀恩有什么闪失，所以保险起见，等明天大军一起进攻？但在战争中，保险往往是吃力不讨好的愚蠢之举。

长安总算夺回来了，回纥人要求按当初的约定办事。此时唐肃宗还在凤翔，广平王李俶左右为难。如果兑现承诺，长安必将遭受又一场浩劫，等于是夺回了京城，失去了民心；如果违背诺言，怎么跟回纥人交待呢？把他们惹恼了，不要说往后无法获得他们的帮助，弄不好还多了一个强敌。
李俶翻身下马，在回纥叶护马前跪下，说：“现在刚收复西京，如果抢夺财产、掳掠妇女，那东京的百姓肯定会为叛军死守，洛阳恐怕就攻不下了。还是等到洛阳再兑现承诺吧。”
叶护吃了一惊，急忙下马回礼，说：“为了殿下，我们愿意直接前去东京。”于是，仆固怀恩领着回纥和西域各国军队从长安城南绕道而过，在浐水东岸安营扎寨。李俶则带领唐军进入长安，长安的男女老幼夹道欢呼，悲喜交集。由此可见，在安禄山父子统治的这一年多时间里，长安百姓的日子也是挺苦的。
捷报传到凤翔，唐肃宗激动得泪流满面，当天就派宦官入蜀向太上皇李隆基报喜，迎接他回京。

广平王李俶在长安停留三天，此后率领大军向东京洛阳进发。而郭子仪已经先一步领兵攻克了潼关，并收复华阴、弘农二郡（今陕西华县和河南灵宝市）。叛军大将张通儒等人退到了陕郡（今河南三门峡市）。
安庆绪听说唐军要来打洛阳，将洛阳所有军队交由他最信任的严庄大哥率领，到陕郡与张通儒会合，共同阻挡唐军。连同长安退下来的部队，步兵和骑兵加在一起，叛军还有十五万人。
至德二年（757年）十月十五日，广平王李俶抵达曲沃（今三门峡市西南曲沃镇）。回纥军则沿南山搜索，看有没有叛军的伏兵，然后驻扎于岭北。
唐军与叛军在新店（今三门峡市西南约十公里）相遇。叛军依山布阵，唐军初战不利，被占据有利地形的叛军追着打，向山下退去。此时，回纥军从南山袭击叛军的背后，于漫天尘埃中射了十余箭。叛军回头一看，惊叫：“回纥军来了。”
叛军主力是奚、同罗、契丹等族胡兵，他们对回纥这只新生的草原之狼一直很忌惮，因此看到回纥军后惊恐万状。唐军与回纥军前后夹击，杀得叛军大败，尸横遍野。严庄和张通儒眼见取胜无望，放弃陕郡，向东逃窜。
回到洛阳，严庄向皇帝安庆绪报告了兵败情况。安庆绪听后，知道大势已去，主动撤出洛阳，逃往河北。临走时，他下令杀了俘虏的唐军将领哥舒翰、程千里等三十多人。
严庄随安庆绪跑了一段路后，没有继续追随，而是选择向唐军投降，后来还被任命为司农卿（从三品）。像这样一个兴风作浪、反复无常的小人最后还得以善终，看来所谓的“善有善报，恶有恶报”，有时也不灵验。
收复东京后，回纥人觉得该是唐政府兑现当初承诺的时候了，于是大肆抢掠三天，东京府库为之一空。即使这样，回纥人仍然不满意，东京父老再凑了一万匹罗锦交给回纥人，他们这才作罢。