叛军大将张通儒等收罗搜集了一些残兵败将，撤退到了陕郡，企图守住陕郡，进行负隅顽抗。安庆绪又调集了洛阳周围的全部兵力，命令由严庄率领，和张通儒合兵一处，共同和唐军作战。这些叛军共有步、骑兵十五万多人，战斗力也比较强，他们企图来阻挡官军向洛阳的进攻。这时，广平王带领部队到达了曲沃。回纥叶护命令他的部将鼻施吐拨裴罗等率领回纥兵，顺着南山前行搜寻叛军，一天，他们在岭北驻扎了下来。郭子仪等人率领的唐军和叛军主力，突然在新店相遇。辛店一带都是黄土堆积成的丘陵山峰，丘陵很大，坡度平缓。唐军和叛军相遇时，叛军在高处，依靠山势迅速进行排兵布阵，占领了有利地形。唐军只能在山坡上和叛军进行对阵，两军开始作战，叛军们居高临下，依据有利地形，向唐军们展开了进攻。叛军万箭齐发，射向唐军。唐军们开始后退，被叛军们赶到了山下，形势变得危机起来。鼻施吐拨裴罗等率领回纥兵，正在山南坡休息，听到山北面响起了战鼓声，立即派人进行打探。很快，探子就回来报告，说山北面唐军和叛军正在作战。鼻施吐拨裴罗立即带领回纥部队越过山岭，来到叛军的背后。战场上，黄沙四起，尘土飞扬，叛军们并没有发现背后的异常情况。回纥兵射了十几箭，有几个叛军倒在了地上，叛军们才发觉有情况，回头一看，发现是回纥部队，十分吃惊，有人就大声惊恐地喊叫着：“回纥兵来了！回纥兵来了！”叛军们知道回纥兵战斗力很强，听到回纥部队来了，十分害怕，纷纷开始逃跑，乱成了一团。唐军和回纥兵乘机前后夹攻，叛军被打得落花流水，尸体遍野。严庄和张通儒等人只好放弃了陕郡，向东逃跑。广平王和郭子仪带兵进入了陕城，仆固怀恩等将领则率领部队分头追击叛军。
严庄先逃到了洛阳，向安庆绪汇报了战况。夜里，安庆绪率领他的部下从苑门逃出洛阳，向河北逃去。叛军们在逃跑前，杀死了所俘虏的朝廷将领哥舒翰、程千里等三十多人。
广平王带领部队进入了东京。回纥兵刚刚到来时，李亨曾向回纥兵许诺，等收复长安和洛阳后，除了土地和城池，其他的东西回纥兵可以随心所欲地拿去。攻下长安时，回纥兵就想大肆抢掠，被广平王制止了。现在，收复了洛阳，回纥兵又要广平王兑现李亨起初的诺言。广平王尽管将大批财物送给了回纥军，但是，回纥军还是不满足，广平王既着急又担心，不知该如何是好。东京的老百姓知道这个情况后，就请求把一万匹丝织品送给回纥军，回纥军才算满意了。
李亨派到四川去请李隆基的第一个使者从成都回来了，他带回李隆基的话说：“只要能让我到剑南，有一个安身的地方，让我能安安静静的生活就行了，我不想再回长安了。”李亨听了十分着急，知道父亲生气了，不知该如何是好。第二天，后来派去的那位使者也回来了，他对李亨禀报说：“上皇一开始得到陛下请求归还皇位的表书后，心神不定，吃不下饭去，不想回来了。等到群臣们所上的表书到了，上皇看了，才十分高兴，命令准备宴席，演奏音乐，跳起舞蹈，招待使者。并下命令确定了动身归来的日期。”李亨听了，十分高兴，立即把李泌召来，兴奋地告诉了他这一切，并说：“这都是你的功劳啊！”
李泌已经多次向李亨请求归隐山中，李亨一次次执意挽留，但是，李泌归去的决心已定，李亨实在再想不出办法将他留下，只好允许他返回了衡山。并下命令，让当地的郡县官为李泌在山中建造房屋，供给三品官的俸禄。
李亨从凤翔出发，返回长安，并派太子太师韦见素，到四川去迎接李隆基。
郭子仪派左兵马使张用济和右武锋使浑释之，率兵攻占了河阳和河内两个郡。叛军大将严庄看大势已去，投降了唐军。陈留守军杀死了叛将尹子奇，献出了陈留，投向了唐军。叛军将领田承嗣本来从颍川带兵来围攻唐军，听到叛军将领们死的死、投降的投降，也派使者来见郭子仪，请求投降。郭子仪回答使者说要上奏朝廷，没有立即做出决定，田承嗣起了疑心，决定不向朝廷投降，与叛将武令珣带领叛军撤退到河北，准备守河北。
二十二日，李亨到达了咸阳望贤宫，收到了唐军收复东京的捷报，加快了返回的步伐。二十三日，李亨进了长安城。城中的老百姓们走出长安城外二十里路，来迎接李亨。去长安的路上，沿途挤满了男女老少，他们欢歌笑语，唱歌起舞，高呼万岁。也有的人禁不住放声大哭。李亨住进了大明宫殿。御史中丞崔器，命令那些曾经接受过安禄山官爵的旧朝臣们，都解下自己的头巾，赤脚站在含元殿前。并命令他们自己用力捶打自己的胸口，一遍遍叩头谢罪。他们的周围站立着一些手拿武器的士卒，李亨下令，让文武百官们站在含元殿台上观看。看到这些曾投向过安禄山的朝廷命官们，围观的人们路除了鄙夷不屑的神情，并用各种语言斥责他们。
安庆绪带领残余的部下，仓皇逃到了邺郡。到达邺郡之后，安庆绪命令把邺郡改为安成府，改年号为天成。这时，跟随他的叛军骑兵不过三百人，步兵不过一千人，其他叛将如阿史那承庆等都分别逃向常山、赵郡、范阳等地。可是，听到安庆绪到达邺郡的消息后，不到十天，蔡希德从上党，田承嗣从颍川，武令珣从南阳，各自率领自己的兵马，来到邺郡。安庆绪也在河北各郡大力招募人马，邺郡的叛军很快就达到六万多人，叛军的势力又壮大起来，叛军又死灰复燃了。