这场恶战持续了整整半天，直杀得天昏地暗，血流成河，几里之内都是死尸。李渊率亲兵巡视战场，怆然有感，对身边浑身是血的李世民说：
“老生不识时务，使生灵横遭涂炭，乱兵之下，善恶不分，火烧昆山，谁论玉石。无妨死人之内，大有赤心于我李氏者，取来不得。及此战亡，恐以后没人再记起也。九泉之下，余恨绵绵。吾静而思之，良深痛惜。以后取得天下，当以文德治之，不用兵戈！”
李世民耐心听完了父亲的感言，拱手请求道：
“将士此刻斗志正旺，天快黑了，机不可失，请下令攻城！”李渊点点头，毅然命令道：“即刻攻城！”
由于没料到今天的战斗如此大获全胜，为攻城准备的云梯尚留在十里外的大营里。回去取也来不及了，李世民命令部队搭人梯而上。杀红了眼的将士们，恶劲憋得正足，争先恐后，飞速窜到城下，搭起人梯，赤臂而上。
守城的兵士见主将已死，主要兵力全部战死，在城外，义军英勇，势不可挡。于是兵无斗志，把手头的滚木擂石往城下一掀，而后一哄而散。义军遂以极少的伤亡，顺利攻占了霍邑。大破宋老生，攻克了霍邑城，兵进长安，首战告捷，李渊异常高兴，召开了隆重的庆功大会，对有功将士予以嘉奖。在拟定授勋的名单上，有人提出，按古来例法，地位低微的奴仆、部曲，虽然立了战功，但只能奖些金银，不应授以勋位。李世民对此陈规陋习，坚决表示反对，他说：
“义士应募，冒矢石，攻坚城，何分奴主。今论功行赏，岂可有等差！”
李渊认为李世民说得有理，下令道：
“山藏海纳，黥而为王。诸部曲及徒隶征战有功勋者，并从本色勋授，不得以贵贱论功。”
义军按功颁发赏赐，使得昨日的刑徒、仆隶，胸脯上也戴上了大红花，摇身一变，也成了有官阶的上等人。于是人人高兴、个个欢喜，手拿勋授，奔走相告。
对霍邑城的官民，李渊也不亏待，开仓放粮，赈济贫穷，安抚人心，把原属宋老生部的士兵，编入义军，不加怀疑。原官员有愿继续留任者，重新授官。
李渊这一折腾，新增品级官员五千多人，光五品以上就有上千人。有人上谏书，认为授官太滥，不利于义军的作战和发展。李渊却说：“天下之利，人不能独吞。将士皆归于我，我岂能不尊敬。隋政的败坏，亦与此有关。雁门解围之功，东都授救之勋。隋炀帝有难时，便许授人以大夫。祸去之后，则撇之脑后，惟加之以小尉。所以，士无斗志，将有叛心，板荡分崩，以致有今日之难。覆车的明鉴，不敢效仿。况且加官抚慰，正是鼓励将士效命于疆场。吾好生任赏，其优甚多，当以不日而定天下。”
李氏义军英勇善战，论功行赏，赈济贫穷，美名远播。流窜于三辅山中的大大小小的武装纷纷赶来投靠，多时一天数以千计。义军的队伍迅速壮大起来。
灭了宋老生，接下来就是屈突通。李渊父子安顿好霍邑，率兵向河东挺进。八月十二日，兵至鼓山。绛郡通守陈叔达领兵坚守。陈叔达字子聪，乃陈宣帝的第十六子，南陈时封为义阳王。此人颇有才学，即兴赋诗，援笔而就。历任侍中，丹阳尹，尚书等高官。入隋朝后，地位大跌，仅在偏僻的绛郡任个小小的通守。李渊以陈叔达非隋朝同类，且爱其才学，决定先礼后兵。李建成自认为读过多年书，腹有才学，口有辩才，自告奋勇，匹马到城下去说降陈叔达。
不料刚一开口，李建成就被陈叔达大骂一通，匹夫贼子的羞辱一番，又令军士放箭。李建成只好抱头窜回，气得咬牙，促劝父亲赶快攻城。
绛郡是个小城，城墙低矮，守卒弱少。攻其有何难哉。李渊旋即下令攻城。
令旗一挥，战鼓一擂，义军跟玩儿似的，飞步赶上城头，隋军一触即溃。李建成一马当先，冲到通守府，把在大堂下正襟危坐的陈叔达抓了起来，五花大绑，解到李渊军中大帐，请求下令立即将陈叔达斩首，以解先前诟骂之恨。面对死亡，陈叔达神色恬然，立而不跪。李建成刚想上去踹他两脚，让李世民止住了。李世民来到父亲身边，附耳说道：“叔达为官清明，为人正直又有才学。目下我军正是用人之际，请父帅以礼感化之。”
李渊点点头，喝退刀斧手，走过去，亲手为陈叔达解去绑绳，并命人看座，以礼相待。陈叔达本是义人，感李渊真诚，表示愿意归顺。李渊马上安排他和温大雅一块同掌军中机要。
安抚好绛郡，十五日，李渊兵至龙门，恰逢出使突厥的刘文静又从突厥带来五百突厥兵、两千匹战马。李渊见突厥兵少马多，心中窃喜，嘉褒刘文静说：
“我大军已至龙门，即将渡河，突厥来援，且兵少马多，卿之功也。”
刘文静拱手说：“全赖唐公威名远播，事情才如此顺利。”
李渊高兴地拍着刘文静的肩说：“走，叫上李建成、李世民。我们到黄河岸边观察地形去。”
黄河从丛山叠嶂中走来，在荒原上流去。她波涛滚滚、浩浩荡荡，一泻万里。龙门段上，嶙峋壁立，河水贯穿在两山之间，地势骤然下陷，庞大的河水从绝壁上摔下来，汹涌澎湃，狂涛乱卷，发出惊雷般沸腾的轰鸣。浑黄的河水闪着晶亮的泡沫，激射半空，形成茫茫银雾，笼罩在龙门上空。天近残秋，河水喷出的雾气，泠泠透人骨缝。李建成打了个寒噤，缩了缩脖子，说一声：“这里还怪冷哩！”