随后,他亲率大军,马不停蹄地赶赴潞州战场。乘大雾迷漫,李存勖以奇兵突袭,突入敌军营垒,斩其统帅符道昭,梁军死亡万余人,丢弃的粮草、器械堆积如山。潞州之战,不仅巩固了河东的边防,而且向南可以威胁后梁的统治中心河南地区。朱温听到潞州军败的消息后,大惊失色,感叹地说:“生子当如李亚子,我那些儿子简直如同猪狗!”
李存勖消除了内忧外患,并没有因此而放松下来。他清楚地认识到,和南方强大的后梁相比,自己的势力还很弱小,若要完成父亲的遗命,消灭后梁,必须增强自己的实力,还应有一支战必胜、攻必克的虎狼之师。于是,在回到晋阳之后,他就开始整顿吏治,罢免了一大批贪官污吏,任用有识之士为官;减轻农民的赋税,鼓励生产,尽量地与民休养生息。继而整顿军纪,规定违反军令者一律斩首,又裁汰军中老弱,选其精锐,日夜操练,从而将散漫的沙陀兵训练成一支战无不胜的精锐之师。没过几年,晋地实力大增,这为他之后战争的胜利奠定了基础。