李玄霸因为突厥来的晚而高兴，对刘文静说：“我西行及河，突厥才到达，兵少马多，都是你的功劳！”
李玄霸成功起事之后，为使东面有三十万人马、战将千员的王世充大军不致成为自己进兵关中的掣肘。
于是李玄霸灵机一动！
“不行我得写封信给老王，让他放松警惕。”
没用多久，李玄霸便写好了信件，令温大雅带着他的信去见王世充。
信中一面吹捧老王是当今天中唯一能宁世安民的英雄，表示对王世充的拥戴。
李玄霸还打起了感情牌，写道：“老王，你也明白我李玄霸胸无大志，无意灭隋，从而使王世充放松了对他的警惕防范。”
其实在私底下，李玄霸早就箭在弦上不得不发！
六月初五日，李玄霸在晋阳设起义堂，将军队分为三军，统称“义士”。
裴寂等尊称李玄霸为“大将军”。十四日，李玄霸在晋阳建大将军府，以长兄李建成为陇西公、左领军大都督，统率左军。
以二兄李世民为敦煌公、右领军大都督，统率右军。
以四弟李元吉为姑臧公，统率中军。
以裴寂为大将军府长史，刘文静为司马，殷开山为掾，刘政会为属，长孙顺德、王长谐、刘弘基、窦琮为左右统军、副统军，并下令开仓放粮。
结果在七月初四日，李玄霸在晋阳宫城东的乾阳门街军门前竖白旗誓师，并任命四弟李元吉为镇北将军、太原郡守，让其留守晋阳。
李玄霸在誓文中宣布道:“兴甲晋阳，奉尊代邸，扫定咸洛，集宁寓县”。
翌日，李玄霸亲率长兄李建成、二兄李世民及义师甲士三万自太原挥兵南下，直指关中！
气势瞬间不可阻挡，李玄霸与长兄建成、二兄世民挥师南下，先后破霍邑、渡黄河，向西南挺进。
当时，江都关内的隋军力量薄弱；而王世充大军又在休养生息，均无暇西顾。
因此李氏父子进军神速，十一月间攻入长安。
李玄霸在家人的辅佐下进入长安不久，就宣布拥立炀帝孙代王杨侑为帝，改元义宁，是为隋恭帝。
恭帝进封李渊为唐王，以李玄霸为唐将王；以李建成为唐王世子；李世民为京兆尹，改封秦国公；封李元吉为齐国公。
李玄霸见时间成熟了，如今天下局势以成三分，李家又独占其一！
只是要想和另外的两股势力同台竞争，李玄霸必须让他的队伍扩大。
否则就光是那王世充，窦建德之辈就够他头痛的了！
李玄霸同他的父亲等人从太原起兵到攻克长安，只有短短的五个月时间！
但这也与一些其他的势力阻抗有关，其中隋末农民战争牵制了隋朝统治，牵制