晉軍以得勝之師繼續南進。在澤州，他們遇到了後梁名將牛存節堅決的阻擊。同時，梁將劉知俊從晉、絳等州搬來救兵，晝夜兼程趕來增援，徐懷玉也從洛陽北上救援。眼見各路梁軍紛紛來援，李存勖果斷下令結束攻勢，全線轉入防禦。

大勝之下的李存勖依然保持著清醒的頭腦。他很清楚，以目前的實力，尚不足以動搖後梁的根基。要擊倒朱溫這樣的對手，非一朝一夕可成。他現在急需要做兩件事：壯大自己和削弱對手。

李存勖對河東的頑疾早已看得一清二楚：軍紀混亂，治安惡劣，官吏腐敗，民生凋敝。而這一切，都因為河東長期以來沿襲沙陀族部落式的管理方式。如果不能徹底扭轉這些，河東霸業猶如空談。從小從中原文化中吸取養分的李存勖顯然有著和他父親迥然不同的思維與理念。現在他一戰成名，威望如日中天，正是推行自己治國理念的大好時機。在張承業的幫助下，一條條法令從晉王宮中發出，嚴肅吏治，打擊賊盜，撫恤孤寡，寬鬆獄訟，廣招人才……李存勖更是親力親為，頻頻微服出訪，體察民心，嚴懲貪官，河東上下風氣為之一新。

李存勖也認識到後勤補給對打勝仗的重要性。潞州一戰，繳獲梁軍糧食超過百萬，足見朱溫對補給的重視。沒有雄厚的家底，顯然無法和梁人抗衡。他向各地派出專人，加強農業生產，興修水利，囤積糧草，整修軍備。河東的王霸之業，就這樣起於微末，在悄無聲息中慢慢起步。

除了內部革新，積蓄力量，李存勖更摒棄了李克用在對外戰略上四處樹敵的方式。只要是朱溫的敵人都是他的朋友，只要有能打擊後梁的機會，他都不會放過。

908年六月，鳳翔李茂貞、邠州軍閥楊崇本聯合西蜀王建，出兵五萬，會攻長安。李存勖得知訊息，立即派張承業率軍支援。急火攻心的朱溫派出大將劉知俊、王重師領兵反擊。張承業還在半路已經聽到蜀、岐聯軍大敗的訊息，悻悻退兵。但自此以後，後梁在關中的控制力江河日下，而反梁的浪潮卻愈發兇猛。

三個月之後，李茂貞、王建捲土重來。李存勖立即派李嗣昭、周德威帶兵三萬南下攻擊晉州，互相策應。周德威與梁軍在晉州以北交戰，梁軍大敗。可惜隴蜀聯軍戰鬥力實在太差，晉軍尚在晉州與梁軍激戰，這邊李茂貞又稀里嘩啦敗下陣來。

李存勖卻並不著急。他相信，萬事有始，起於微末，再強大的老虎也有筋疲力盡的時候。這樣不間斷的騷擾，定會讓朱溫日夜不寧，無力北顧。而他則韜光養晦，借力打力。時間是站在自己這邊的，他只需要靜靜等待壓倒朱溫的最後那根稻草。

朱溫終於受不了鳳翔、西蜀軍隊對長安不間斷的襲擾。開平三年（909年）正月，朱溫遷都洛陽，希望以此加強對關中的控制，同時讓愛將劉知俊率領大軍西出長安，大舉討伐李茂貞。李存勖則穩坐太原，笑看雲起。

在李存勖看來，朱溫從來都沒有清晰的戰略意圖，這是他的致命弱點。南征淮南失敗，便把重心轉向河東。潞州受創，又轉而對背後捅刀子的李茂貞痛下殺手。朱溫以雄兵數十萬，經略中原十餘年，卻仍然擺脫不了腹背受敵的境況。對已經失去章法的對手，他只需穩紮穩打，按照自己的節奏下好每一步棋。他相信，朱溫很快就會犯錯。

李存勖的判斷很準確。

909年六月，被漫長西征折磨得筋疲力盡的劉知俊遭到朱溫猜忌，驚恐之下起兵反叛，獻出同州、華州，向李茂貞投降。劉知俊的軍隊倒戈相向，突然攻下了長安、潼關，震動中原。大為震怒的朱溫立即盡起大軍西征，雙方在長安附近混戰成一團，互有勝負。這樣的機會李存勖當然不會放過。是年八月，李存勖以周德威、李存審、丁會等人為先鋒，率大軍出陰地關，直撲晉州。