赏了姚彦温和他的三千士卒，让各军稍缓，由姚彦温部先走。
姚彦温一到汴梁，立即率部向刚刚入城的李嗣源投降，并且讨好地说道：“京城方面的情况已经糟透了，陛下被谗言迷惑，大势已去，不能再替他做事了！”李嗣源对姚彦温没什么好感，斥责道：“这是你自己不忠，怎么还能说这么忤逆的话。”即剥夺了姚彦温的兵权。
三月二十六日，李存勖前进到距离汴梁约七十里的万胜镇，得知了孔循、潘环、姚彦温等尽皆背叛，李嗣源已经进入汴梁，不禁大惊失色。李存勖登上山岗，向着汴梁望了一眼，喟然长叹：“我大事不成了！”
李存勖只得下令班师。这支军队出征数日，没有交战，但是人数已经由两万五千人减少到了一万五千人。回师途中，李存勖极力鼓舞士气，沿路巡视各军。每遇到手持武器的卫兵，李存勖都对他们说道：“魏王从西川运来金银五十万贯。回到京城，统统都赏给你们！”有大胆的卫兵答道：“陛下的赏赐来得太晚了，不会再有人感激圣恩！”
李存勖一愣，顷刻间已是泪流满面。接着他对负责内库的宦官张容哥，说道：“还有什么东西，都拿出来，赏给大家！”张容哥答道：“没有了，都已经发完。”一旁的卫士勃然大怒：“让陛下丢失江山的，就是你们这些阉货！”抽刀要杀他，幸得旁人劝解，才逃出一命。
暂逃一命的张容哥对其余的宦官们哭诉道：“明明是皇后一毛不拔，外人把过错推到我们头上。一旦形势有变，我们必被碎尸万段。我不能等到那一天再死！”然后，乘人不备，张容哥投河自尽。
三月二十八日，李存勖到达洛阳城东的石桥，命摆下酒宴，招待从征众将。李存勖看着众将，痛哭流涕，对众将说道：“你们自从追随我以来，我们都是有福同享，有难共当！我今天落难至此，你们难道就没人愿意设法相救吗？”
李绍荣泣道：“臣本来只是一个小人物，蒙陛下的厚恩，才位极将相。在这危难之时，我一定杀身成仁，报效皇恩！”说完，李绍荣拿刀斩断自己的头发，誓言死忠！有李绍荣带头，其余一百多位将领也纷纷效法，哭着表示一定誓死效忠。见众将誓死效忠自己，李存勖稍稍安心，起程回到洛阳。
数日后，枢密使李绍宏，宰相豆卢革、韦说等向李存勖奏报道：“叛军前锋石敬瑭已经逼近汜水关，不过魏王的征蜀大军也快要回来。陛下最好出师控制住汜水，让叛军不得深入。等征蜀之师回来，一切还有转机。”李存勖想了想，觉得有理。于是，下令集结各军，准备明日出师汜水关。
次日一早，李存勖还在皇宫中吃早餐。受命前往汜水关御敌的禁军，正在集合，准备出发。禁卫骑兵的在宣仁门集结，由朱守殷统领。这时，李存勖手下最精锐的一支部队，就是早有反心的从马直士卒。他们拿到武器后，并没有按照命令前往宣仁门外集合。而昰在郭从谦的筞划下，趁机造反。
郭从谦和他的从马直