三月初六，决战的日期到了，唐军步兵、骑兵共六十万大军，在安阳的河北岸，浩浩荡荡地摆开了庞大的阵势，真是人山人海、气势如宏。而叛军，只有仅仅五万人前来交战。唐军见了，认为只是叛军的流动部队，不是叛军的主力，也就没有放在心上。叛军扎好营寨后，史思明就亲自带领一支叛军向唐军杀来。唐军方面，李光弼、王思礼、许叔冀与鲁炅等，先带领自己的部队迎上前去，与叛军展开了激战。双方杀得天昏地暗，人仰马翻，死伤各半。鲁炅在混战中被乱箭射伤，退下阵来。郭子仪带领大军紧跟在这几支部队的后面，正在指挥人马，进行布阵，准备投入战斗。忽然，天空中一阵狂风吹起，卷着黄沙，夹带着折断的树木，像一条条巨大的黄龙，向战场上疯狂奔来。很快，天地之间就变得一片昏暗，人们近在咫尺，也分不清敌我。正在作战的将士卒看到这种情况，都十分吃惊，开始纷纷逃跑。唐军们很快向南奔逃，叛军也向北奔逃，形成了两股巨大的混乱的人流，滚滚向前。双方的将领们已经无法控制。一路上，唐军丢弃的武器、盔甲等军用物资，比比皆是。战马也受了惊吓，不再受人的控制，嘶鸣着到处狂奔。一路上，有很多将士被践踏而死。奔逃的唐军一路向南而来，已经不能作战。郭子仪还控制着一部分朔方军，他们过了河阳桥，郭子仪命令把桥拆掉，阻止叛军通过，确保东京的安全。
郭子仪的部队，一路逃跑下来，一万匹战马只剩下了三千匹，军用物资基本上都丢失尽了。看到溃逃下来的唐军，东京洛阳城中的官吏和百姓都十分害怕，认为叛军又要来了，都纷纷逃向了山中。东京留守崔圆和河南尹苏震等官吏，向南逃奔到襄州、邓州。其他各路节度使们，也领着自己的部队逃回了自己原来镇守的地方。逃跑的士兵们，一面逃跑，一面沿路大肆抢掠，胡作非为，无恶不作。军中的将帅和当地的官吏都没有办法进行制止。唐军们一路溃逃，十多天才安定下来。参战的部队中，只有李光弼与王思礼两个人，在军队溃逃时，能够及时地整理部队，将部队全部带回来了。
郭子仪随着部队到达了河阳，他打算在河阳停下来，坚守河阳城。可是，部队已经乱作一团，他刚把这一部分部队稳定住，那边又涌来一股逃跑的军队，一边逃跑，一边叫喊着叛军来了，那些刚刚稳定的军队听了，又一阵大乱，不再听将领们的约束，开始逃跑。直到逃奔到缺门，军队才渐渐地稳定下来，部将们都陆续到来了。郭子仪命令点检人马，结果只剩下几万人。郭子仪和众多将领们研究后决定，放弃东京洛阳，退守到蒲州、陕州，进行防守。这时，都虞侯张用济说：“蒲州和陕州，这几年来连年遭害，百姓们都没有吃的，军队到了，更没有粮食，我们不如在河阳坚守。如果叛军来攻打，我们就拼尽全力进行坚守。”郭子仪经过思考后同意了。郭子仪就派都游弈使灵武人韩游，率领五百名骑兵先去占领河阳，又命令张用济率领五千步兵在后。这时，叛军的行军司马周挚，已经带领叛军来争夺河阳，因为晚到了一步，唐军已经占领了河阳，叛军不能进入河阳城，只好撤走了。张用济命令士兵们对河阳城的南、北两面进行加固，准备坚守。
段秀实率领镇西将士的家眷和公私财物，从野戌渡过了黄河，在河清县南面驻扎下来，等待命令，荔非元礼带领镇西将士来到之后，就把军队驻扎在那里。等部队稳定了，各路将帅都纷纷上表谢罪，请求皇上的处理。李亨对各路将领都没有问罪，只是剥夺了崔圆的封爵与官阶，并把苏震贬为济王府长史，削夺了他的银青光禄大夫的官阶。
史思明得到唐军败退的消息后，就在沙河整顿了他的兵马，又带领军队回到了邺城的南面。安庆绪派人收集了郭子仪军队败退时留在营中的粮食，共有六七万石。安庆绪有了资本，就和孙孝哲、崔乾祐等商量，将邺城城门紧闭，不让史思明进城。可是，他手下的将领们不干了，将领们说：“我们不能这样做，如果我们现在背叛了史思明，以后唐军再来攻城，谁还能救我们。我们现在不能背叛史思明呢！”而史思明到了邺城，就把军队驻扎在那里，既不派人和安庆绪进行联系、通报情况，也不带兵南下追击唐军，而是每天在大营中，宴请他的将士。张通儒、高尚等人沉不住气了，他们对安庆绪说：“史思明带领部队远道而来救援我们，我们都应该去迎接他们，表示对他们感谢。”安庆绪十分生气地说：“你们想去你们就去吧。”张通儒、高尚就带着一些酒、肉、物品，来到时思明的大帐，来感谢慰问时思明。史思明听说他们来了，就亲自把张通儒、高尚等迎紧帐内，激动得痛哭流涕。张通儒、高尚告诉史思明，安庆绪三天后将亲自到来。史思明听了，有些受宠若惊，设了丰盛的宴席来招待他们，并送给了他们很贵重的礼物，然后，派人将他们送了回去。可是，过了三天，安庆绪还没有来。
于是，史思明就派人暗中把安太清召来，让他去见安情绪，教他设法把安庆骗来。安太清见了安庆绪，又威胁又利诱。安庆绪无计可施了，不知道怎么办才好，他不听孙孝哲、崔乾祐等人的劝告，派安太清向史思明上表称臣，并说等史思明安顿好部队入城后，就奉上皇帝印玺。史思明看了表书后，叹了口气，假装说：“何必要这样呢！”并立即把表书拿出去，让将士们观看。将士们看了，都高声呼喊万岁。史思明就亲自写信安慰安庆绪，写信时，并不像过去一样称臣，只是说：“愿与你作为兄弟邻国，互相援助。我们之间地位平等，鼎足而立，这样做就可以了。如果你向我称臣，我是万万不敢接受。”并把他的信和安庆绪的表书一起封后，派人送了回去。