李建成和李二兄弟主动放弃大兴北走，虽然是被迫，却也是相当正确的决定，最起码是保住了一部分军队，让他们在北上途中多少还有一些还手之力和补充粮草的力量，北走期间先后把华原、同官和内部三县的粮库洗劫一空，获得了路途所需的粮食，带不走的也打着义师旗号全部散发给了三县百姓，让随后追击的隋军屈突通部反倒饱受缺粮之苦，严重影响了追击速度。
李靖在扶风郡大破薛仁果的时候，急匆匆如惊弓之鸟的李家兄弟也带着残兵败将一路撤退到了壶口，对李家叛军来说还好，黄河对面的现任文城太守郑曾是前任太守郑元寿的儿子，郑元寿已经被陈丧良用火炮轰死，郑曾和陈丧良也算是有杀父之仇，同时郑曾还是李建成正妻郑观音的堂兄，与李建成有亲戚关系且关系素来良好，毫不犹豫的组织了文城叛军接应李家兄弟过河，颠沛流离多日的李家兄弟这才有了一个比较安全的落脚地，也凭借着黄河天险，暂时拦住了屈突通的追兵。
大兴城里的十万叛军，最终能够跟着李家兄弟逃过黄河的还不到两万人，且近半是伤兵，能留下这么多残兵败将，还是因为李渊叛军以晋中士兵居多的缘故，晋中级士兵为了返回家乡不肯脱队，坚持跟在李家兄弟身边，不然的话，能有几千人保着李家兄弟过河，李建成和李二就该高唱阿弥陀佛了。
叛军文武官员也损失惨重，刘文静、郑元寿、王长谐、窦琮、李孝恭、李孝常、规和许世绪等数十名文武官员，不是死在了大兴战场，就是倒在了逃亡路上，老李家在太原起兵时的得力干将折损大半。倒是陈丧良根本看不上的朱粲，十分幸运的跟着裴寂一路败逃到了文城，还因为陈丧良绝不可能原谅他的缘故，获得了李家兄弟的宽恕谅解，重新在李家叛军中担任了带兵将领——不管怎么说，朱粲也确实是一个带兵能打的将才。
因为柴绍是首先出卖了大兴宫城，停放在宫城内的李渊尸体李家兄弟没能带回来，虽说很清楚以陈丧良的虚伪性格故意侮辱李渊尸体自毁声名的可能不大，但借着这个由头，住进了文城郡治吉昌城后，李建成和李二兄弟还是为此痛哭流涕了一番，伤心自责不孝没能保全父亲遗体，实际上却是庆幸自己兄弟的死里逃生，侥幸保命。余下的叛军将士也是无不放声大哭，庆幸自己能够活着回到河东家乡。
越老越软弱的屈突通给了李家兄弟喘息机会，本来在隆冬之际黄河封冻，就算没有渡船也可以在冰厚处踏冰过河，但是发起一次强攻被文城叛军这支生力军击退后，顾虑军队疲惫少粮的屈突通竟然主动停止了进攻，改为让军队休整休息和收集粮草。筋疲力尽的李渊叛军这才得以在文城放心休整，恢复力量和重新聚拢零散败兵，同时还造成了一个意外情况——李密、翟让联军攻破虎牢关和洛口仓的消息突然传到文城郡，原本打算尽数撤回太原老巢的李渊叛军看到反攻曙光，生出了调整战略的心思。
但反攻的希望也十分渺茫，即便加上文城叛军，李家兄弟手里也只有区区两万多士气低落的败军之师，能够守住黄河天险都已经难度不小，就算陈丧良率领东都隋军回军去救洛阳，李家兄弟能够重新打回大兴的希望也小得可怜，所以不管是李建成还是裴寂，也都是只稍微盘算了一下，就放弃了这个念头。
只有李二不肯错过这个渺茫希望，经过了一番深思熟虑后，李二私下里找来了李神通、段志玄和唐宪等亲近文武，与他们商量留驻晋南河东的计划，想要向李建成和裴寂自告奋勇率领一军留在山西南部，抵御隋军对太原发起的反击，也等待机会反攻大兴。
李二的计划让李神通等人大吃一惊，与李二关系最好的族叔李神通还失声惊叫道：“二郎，你疯了？陈应良狗贼拿下了大兴，很可能亲自率军向我们发起进攻，屈突通更是就在黄河对岸，随时都有可能过河杀来，你主动请求率军留在晋南河东，不是找死是什么？”
“我当然没疯，我是经过仔细考虑的。”李二摇了摇头，沉声说道：“我觉得陈应良狗贼亲自率军向晋南发起进攻的可能很小，他现在正面有薛举和白瑜婆这些贼寇的直接危险，背后有李密和翟让虎视耽耽，更远处还有李轨和西突厥有可能乘机杀进关中，他在短时间内亲自率军向晋南进兵的可能几乎没有。所以我们只要打败了屈突通，就有希望在晋南站稳脚步，等到反攻关中的机会出现。”
摇头说罢，李二又竖起了三个指头，继续说道：“而且我还认为，我留在晋南还有三个有利之处，第一就是保持与李密、翟让的联络畅通，乘机通过各种手段获得他们的直接帮助，利用他们手里的兵马粮草替我们削弱敌人。”
“另外两个有利之处呢？”李二的心腹战将段志玄赶紧问道。
“第二个有利之处就是避免我和兄长之间的冲突矛盾。”李二说道：“父亲亡故后，我和兄长共同执掌兵权，这样的情况时间短了还好说，时间一长就必然会矛盾激化，冲突扩大，与其将来出现这样的局面便宜外敌，还不如早些分道扬镳，各自执掌一军，避免争权夺利，也避免骨肉相残，两败俱伤。”
段志玄和唐宪一起点头，都觉得李二这话颇有道理，李神通则压低了声音说道：“二郎，你这话当然有道理，但你也别犯傻留在晋南啊？你父亲在太原经营多年，根基稳固，粮草丰足，胜过晋南十倍，这样的好地方，你就舍得拱手让给你的兄长？裴寂实际上是向着你的，你回到太原独掌兵权，并非没有希望。”
“这也是我要说的第三个有利之处。”李二低声说道：“我也知道太原是个好地方，但北面的刘武周和西面的梁师都，全都对太原虎视耽耽，闻得我军兵败，他们必然会生出趁火打劫的心思，我军撤回太原后，首先就得面对他们的直接威胁，实际上和我留在晋南是一个样，我在晋南掌握向南进攻的主动优势，既可以名正言顺的向兄长要粮要武器，又可以让兄长替我守住北方，岂不是要胜过我和他同时回到太原去争权夺利，被动挨打？”
听李二这么一说，李神通这才发现情况确实如此，李二自告奋勇留在晋南，战略上确实好处多多，李建成为了能让李二替他抵挡隋军反攻，肯定不会吝啬粮草武器对李二的支持，同时晋南诸郡此前大部分都是和平解放，被战火波及不大，人口底子还在，只要有粮有武器，想要重新拉起军队并不难。想明白这些，李神通这才点了点头，说道：“二郎你如果决意要留在晋南，那我不勉强你，也可以陪你留下，了不起就是守不住晋南，再撤回太原也不迟。”
李二大喜道喜，然后又说道：“一定守得住，父亲当初带着十几万兵马进关中，其中大部分都是晋南士兵，他们不可能被官军全部消灭，很大部分肯定只是被打散了，要不了多少时间就会陆续返回家乡，我们只要把这些游兵散勇重新招揽回来，兵力很快就会重新胜过屈突通，地利又在我们的手里，打跑屈突通不难。”
见李二如此自信，段志玄和唐宪抱着就算守不住也照样可以逃回太原的心思，全都表态愿意陪着李二留下，李二更是大喜，好言安慰了他们一通后，马上就跑去找到李建成和裴寂，要求率领一军留驻晋南，抵挡隋军反攻。
听了李二的要求，暗地里向着李二的裴寂当然是大吃一惊，赶紧暗示李二不要犯傻，可惜李二却佯做不知。而李建成却是大喜过望，假惺惺的劝说了李二几句后，便欣然接受了李二的请求，然后不仅决定把大部分兵马留给李二，还答应回到太原后马上就给李二送来粮草军械，帮助李二长期驻扎和重建军队。李二不顾裴寂的暗示反对，满面笑容的谢了兄长。
事后，裴寂自然少不得埋怨了李二的傻帽一通，李二也只能是把自己的打算再次对裴寂唠叨一遍，好不容易才让裴寂接受自己的观点，再然后李二又向裴寂提出恳求道：“叔父，你和兄长回到了太原后，还请你在兄长面前多多美言，让他千万要遵守承诺，早日给我送来粮草武器。还有，我四弟李元吉那里，也请你多多照看，让他继续统率军队，绝不能让我兄长把他手里的兵权收走。”
“粮草军械的事你放心，你兄长性格还算厚道，食言反悔这样的事，他应该做不出来。”裴寂随口回答，又疑惑问道：“不过，你四弟又是怎么回事？你为什么要让他继续统率军队？”