想到这里，李世民再也沉不住气了，他一头冲进黑夜的雨幕，向父亲所住的大帐跑去，几里远的路，好像一霎间就跑到了，汗水、雨水和在一起，他气喘吁吁，浑身透湿来到父帅的帐前，却让放哨的卫兵挡住了。帐内漆黑，没有灯光，父帅已经就寝。李世民心急如焚，却不得入内，急得他蹲在地上，放声号哭起来。
帅帐里亮起灯来，钱九陇走出帐来，召李世民说：“大将军传您进帐。”
烛光下，但见李渊围着被子坐在床上，见李世民垂手站立，浑身湿透，还不停地抹眼泪，当父亲的有些心疼，问：
“夜已深沉，我儿不去歇息，大雨之中，因何在帐外啼哭？”
李世民正色说：“今兵以义动，进战则克，退还则散。众散于前，敌乘于后，死亡在于目前，儿焉能不哭！”
李渊似有醒悟，说：“你哥李建成已领左军先退，如之奈何？”
李世民拱手道：“我右军未发，正严装待命。左军虽发，但行犹未远，请令孩儿派人去追回！”
“你真有把握打败宋老生？”
“宋老生轻躁，破之无疑，定业取威，在此一举。儿愿亲率精兵，捐躯力战！”
“但破了宋老生，进军长安，谁能担保李密不心怀忌嫉，发后袭我？”李渊担扰地说。
“李密恋于仓米，没有远略，父亲当致书于李密，许结为盟友。可卑词推其为盟主，其必妄自尊大，不复于我威胁也。”
见儿子说得头头是道，李渊禁不住心动起来，披衣下床，在地上走了两圈，毅然命令道：“立即派快马将左军追还！”
李世民一听，精神抖擞，向李渊一施礼：“谢父帅听孩儿进言。”
李渊笑道：“成败皆在你，连我这个当父亲的也要听你的。”
过了几天，天遂人愿，雨过天晴。李渊命令部队晾晒铠甲，整理行装，准备进军。恰在这时，太原兵运粮草也来了。
三军略事休整。李渊即率大军由山中小道抄近路直奔霍邑。大军至霍邑城外十里地扎下营盘。李渊亲率李世民等百余骑靠近侦察。站在一个小山丘上，远远望去，但见城墙上幡旗招展，枪刀密布，寒光闪闪。巡逻的轻骑在城头上往来驰骋。城门紧闭，吊桥扯起，壕沟深深，一派杀气。看到这些，李渊担心地对李世民说：
“看此架式，宋老生若不出战，据城固守，我军架云梯而上，发起强攻，恐也难以取胜。”
李世民献计道：“宋老生有勇无谋，可以轻骑挑之，他一定耐不住出战。若还不出战，则诬说他已与我约定，将献城与我。老生怕左右上奏，焉敢不出城迎战。”
李渊听李世民讲得有理，点头说：
“宋老生不敢至贾胡堡迎头击我，我已知其懦弱无为也。”
回到大营，召开战前参谋会议，经过讨论，集思广益，确定了一个精密的作战方案。第二天上午，李建成，李世民带领骑兵数十名，至霍邑城下，一边命士兵高声诟骂，一边指指点点，好似巡视战地，准备攻城的样子。远处，李渊指挥数百骑兵，分成两队，一路奔东门，一路奔南门，松松垮垮，作出要围城的样子。
宋老生站在城头上，见一些敌兵赤着身子，跳着脚高声诟骂他，怒火中烧，早已按捺不住。又见李渊后续步军正以急行军速度赶来，大有安营攻城之势。
宋老生心中一亮，何不趁敌军行军疲惫，立脚未稳之时，发起猛攻，把对方消灭在安营布阵之前。想到这儿，宋老生一刻也不愿迟疑，立即点起三万大军，亲自率领，从东门、南门杀将出来。但听战鼓雷鸣，喊杀声震天，气势甚是惊人。李渊怕宋老生不肯远斗，乃稍稍约兵后退。宋老生却以为对方怯阵，挥兵猛冲。直冲出离城约一里多路。
乘此空隙，李建成、李世民各领左、右精骑，冲向东门、南门，欲断敌兵后路。宋老生见状，忙挥兵疾进，先攻城东。两军相接，势如破竹，老生以优势兵力直冲李建成的骑兵队，激战中，李建成落马，亲兵慌忙将其救起，边战边退。
宋老生见首战得利，高兴异常，继续领兵向前冲。正在这时，李渊指挥殷开山的步军从南原上急驰而下，冲击宋老生的侧翼。李世民则领精骑从背后杀来。
两军尚未接触，义军便齐声呐喊，声势盖过隋军。这时，前军冲下，南原上又次第冲下后军，中军。宋老生心中不免惊慌，只得硬着头皮挥军迎战。
霍邑城南，一片广阔的田野上，尘土滚滚，杀声震天，枪刺刀砍，响如山崩。李世民一马当先，抡刀猛冲敌阵。他左砍右杀，纵横驰骋，亲手斩杀数十人。两把战刀都砍得卷刃了，血流满袖，甩甩袖子再战。见李世民如此英勇，紧随其后的阿史那大奈备受鼓舞，领麾下精骑发力猛冲。两军混战，杀声遍野，一时呈胶着状态，站在高处观战的李渊见状，心生一计，立即命令士兵传呼说：“宋老生已被抓住了！”
此传呼一出，义军士气大振，斗志更旺。隋军刚好相反，听说主帅被擒，心慌意乱，阵脚大乱。义军越战越勇，势不可挡，直杀得隋军血流成河，死尸相枕。
宋老生见势不妙，自领亲兵回窜南门。到了城下，却城门紧闭，吊桥扯起。后兵追兵也旋风般地赶来。老生无奈，只得弃了战马，跳入壕沟。沟内水深丈余，老生浑身带甲，艰难地向对岸游。“哪里逃！”一个汉子飞马赶来，马到壕沟边，一个急杀车，汉子就势飞进壕沟。他身手灵活，水性极好，三游二游，赶上了宋老生。宋老生大惊，回头一看，但见寒光一闪，被对方削去了脑袋。那汉子正是李世民的属下，右统军刘弘基。他爬上岸来，跳上战马，枪挑宋老生的头颅，绕场示众，义军欢呼声四起。此时的隋军非死即降。