徵。俟關中平定，據險養威。徐觀鷸蚌之勢，以收漁人之功，未為晚也。”於是李淵給李密的信中很卑恭地說：“天生烝民，必有司牧，當今為牧，非子而誰，老夫年逾知命，願不及此”。李密在接到李淵信後，見李淵如此推崇自己。就放鬆了對李淵的警惕並和他簡單結盟。李淵的大意不僅疏忽了對李淵圖天下野心的戒備，而且還實際為李淵造反牽掣了隋軍主力，使隋軍不能西救關中長安。

七月，誓師過後的李淵命李元吉留守太原。自己親率3萬大軍西突厥兵協助下，向關中進發。李淵起兵的訊息傳到長安後，長安留守的代王楊侑派宋老生率兵三萬屯在霍邑（山西霍縣），屈突通率大軍扼守河東（山西永濟）。以防備其西進。

李淵率大軍循汾水進軍，到了賈胡堡，距霍邑五十餘里。這時。連日陰雨，軍隊受阻不能前進，而且軍隊缺糧，特別是有傳言說劉武周聯合突厥將進犯太原。這時，裴寂等認為：宋老生、屈突通連兵據險，不易解決；李密表面上答應聯合了，但靠不住，突厥貪而無信，唯利是圖，聯合劉武周進犯是可能的，將士家屬都在太原，太原地位很重要，“不如還救根本，更圖後舉”。李淵同意後下令退兵回太原。

李世民不同意退兵的策略，便苦諫父親李淵說：“現在正是收穫季節，田野到處都是菽谷，何必擔心糧食不夠？”同時他認為劉武周與突厥“外雖相附，、內實相猜”，劉武周不會舍掉馬邑去襲太原。還有李世民認為對面的“宋老生輕躁，一戰可擒”。最後他建議父親只有抓緊時機；照原來方針“先入咸陽，號令天下”，才是正確的決策，並且說如果一點小的挫折便行退兵，必然會造成“眾散於前，敵乘於後”的局面，使自己陷於覆滅的命運。

李建成也支援李世民的主張，也反對退回太原。考慮再三的李淵隨後改變退軍決心，追回部隊重新圍攻霍邑。

李淵的這個重要戰略決策，對李淵的發展，有著決定性的影響，首先李淵剛剛起兵，軍心士氣還不鞏固，如果遇挫折而退兵，必然會陷於瓦解不可復振。再者關中戰略地位重要，而且當時空虛，圖之者還大有人在，關西的薛舉也意圖關中長安，還有差不多就在李淵起兵同時，柴孝和就曾勸李密舍掉洛陽入關中，以圖天下，李密沒有采納，但時間一久，變化就不可知了，所以必須趁機，捷足先登。如果李淵沒有改變他自己退兵的決定，李洲可能會像李密一樣最後對關中無能無力，從而丟失爭霸天下的根本。

八月，大雨停止了，回軍的李淵率騎兵沿小路奔霍邑，宋老生守城不出。李淵無奈就派李建成、李世民率領幾十騎到城下辱罵宋老生，同時自己率領騎兵在城東埋伏。宋老生乃率眾三萬自東門、南門分道而出。李淵這時即同李建成左軍結陣於東門，令李世民右軍結陣於南門，以斷宋老生的逃路。成陣之後，又怕宋軍背城不肯遠戰，乃命令軍隊向後收縮，偽作退避宋軍模樣。宋老生果然認為李淵畏縮，在距離城一里餘地方佈陣。不久李淵的後續部隊來到，李淵想命部隊就食後再戰，李世民認為，“時不可失”，遂發動了的進攻。一交鋒，李淵、李建成在城東的陣勢不利，便向後引退，李世民發現宋老生大軍側背暴露，即引兵自城南直衝宋老生軍陣後，並揚言已俘虜宋老生�