安排好的，用意就是动摇隋军军心。
这一招数果然奏效，隋军很快就崩盘溃败。李渊事先安排人攻打城门，防守的人赶紧关闭了城门，这样一来，宋老生就是想逃回霍邑城，也是不可能的了。他见隋军大败，无力抵抗，下马跳入沟堑想逃跑，被刘弘基追上一刀杀死。
主帅阵亡，城内隋军也无心抵抗，唐军很快就占领了霍邑。
李渊进入了霍邑后，对那里的隋朝官员大加封赏，官帽子一顶顶送了出去。有人劝李渊不要封那么多的官，李渊说出了一句甚为经典的话，“用官职收买人心，不比用兵要强得多吗？隋朝正是吝啬赏赐，才失去了人心。”
李渊的做法真的很绝，封官这件事，不用花费一分钱，不浪费一兵一卒。只需一纸任命，就可以让一个人，一个城，一个州的人死心塌地地为你卖命，还有什么比这更便宜的事情了？
李渊慷慨的作法，很快就收到了积极的效果。临汾郡、绛郡、龙门、汾阳纷纷投诚归降。
李渊大军到了龙门的时候，刘文静带着突厥的军队五百人和马二千匹赶到了龙门与李渊会合。这让突厥与刘武周勾结攻打太原的谣言不攻自破。
此时的关中地区，隋军的抵抗力量就剩下屈突通防守的河东，以及代王杨侑驻守的长安，其他的地区已是不足李渊所虑。
在围攻河东的屈突通时，李渊集团内部又出现了不同的意见，裴寂等人主张先拿下河东的屈突通，为下步围攻长安解除后顾之忧。而李世民则认为长安隋军无勇无谋，唐军主力应直捣黄龙，进攻长安，回头再收拾屈突通。
其实这两方的意见都是有利有弊，只是裴寂的想法比较老成保守，而李世民的主张则是激进的。李渊在综合考虑之后，决定两方的意见均采纳。分兵两部，留下一部继续围困河东屈突通的隋军。另一部则由自已亲自率领，从龙门渡过黄河，进逼长安。
就在李渊起兵反隋的同时，他的部分亲属在隋帝国的中心地带长安地区，也搞起了事情。李渊的女儿李氏是个不爱红妆爱武装的女人，这个女人充分诠释了虎父无犬女。李氏的老公柴绍在李渊起兵时，跟着李建成和李元吉一起逃到了太原，李氏却没有跟着柴绍等人逃走。
李氏不但没有逃跑，还搞出了很大的事情。柴绍走后，李氏回到鄠县，把自已的家财全部散尽，聚集了一些不要命的强人。李渊的堂弟李神通从长安逃到鄠县，拉拢长安的大侠史万宝等人起兵响应李渊。还有一个胡人何潘进，跑到司竹园那地方做盗贼，聚集了好几万人。
李氏就把这些人组织起来，打下了鄠县，实力也是迅速壮大，隋军几次征讨都被李氏打败。李氏接着扩大战果，把附近的盩厔、武功、始平等县都占领了，兵力达到七万多人。
李渊的另一个女婿段纶，在蓝田也聚集了一万多人起兵反隋，响应李渊。
李渊进袭长安的大军又分作二路，其中