兵贵神速，大军说撤就撤。
当下由卢俊义、杨再兴、马岱、卫疆前面开路，卫青与秦良玉、马云騄、吕蒙、张出尘、王异等押解着张辽、邹氏、杜氏等俘虏居中。赵云、薛礼、马超、龙且四员虎将断后，率领八万人马连夜撤出上洛，返回武关。
西汉军得知消息之后长驱直入，一举“收复”了上洛，再派斥候打探，东汉军却已经走得远了。吕布建议继续穷追猛打，一举收复武关，而杨素、朱儁等人却不赞成。
杨素态度坚决的道：“我麾下将士征战了将近一年，人困马乏，士卒厌战情绪强烈。既然已经收复了上洛，暂时可以当做屏障拱卫长安。那东汉军阵中有薛礼、赵云、马超等人，皆是勇冠三军之辈，更兼武关城高墙厚，一夫当关万夫莫开，某不打算再让将士们白白送死，吕奉先想取武关便自己去取吧！”
“杨处道所言极是，我麾下的将士乃是拱卫洛阳的御林军，因为函谷关失守，才调兵出击。如今已经收复了函谷关与上洛，我当引兵返回洛阳。”朱儁手抚胡须，表态支持杨素。
次日天亮，朱儁最先引兵返回洛阳。