在隋军各路平叛大军进展顺利的同时，黄明远的主力已经逼近汉王杨谅的腹心地带，准备进行最后的决战。
黄明远在占领蒲坂城之后，修整一日。九月九日，黄明远将蒲坂城交给从郑县到达的崔弘升，令其坚守蒲州，自率主力骑、步兵四万五千人向北而去。
而另一路隋军偏师史祥也从风陵渡方向强渡黄河，击破留在此地的数千汉王叛军，占据黄河渡口。史祥乃受命沿着首山、百梯山（今中条山脉）一路向东北而行，先后占领了盐池（今运城盐池）和安邑县、夏县，扫清了蒲州的南部叛军。
黄明远数万主力，一路浩浩荡荡，往北而去。其主力还未出蒲州境内，从蒲坂城到晋阳八百余隋里，沿途的叛军已经是风声鹤唳，草木皆兵，尽皆望风而逃。
十一日，隋军下闻喜城。
十二日傍晚，隋军主力兵临晋州城下，晋州刺史裴文安命人紧闭城门，坚守不出，准备负隅顽抗。
晋州的守兵不足，并不足以出击，但若是选择攻城也要数日消耗。黄明远担心汉王叛军会堵塞雀鼠谷，因此乃命史祥率领两千人围住晋州，并总管晋州、绛州、吕州三州诸军事，又命段文操、杨万项二人各率两千人围住绛州、吕州，勿使三州在大军身后作乱。
黄明远准备绕过这些据不投降的城池，直接奔晋阳而去。
军中大将崔彭、独孤览等人皆是大吃一惊。独孤览直接进言道：“汉王经营河东多时，虽为叛逆，但河东之地，附逆者无数。今总管以数万之兵战汉王叛军十余万人之兵，本就是艰难重重。今总管令大军绕开城池，孤军深入，一旦稍有小挫，必会危及全军，倒时恐进退无路。”
其他人也纷纷进言，主要是言汉王虽兵败蒲州，但根基未损，手下还有十余万精锐军队，并非不堪一击。黄明远此举，实乃非生即死之策，太过凶险。
黄明襄也建议黄明远稳扎稳打，一路边破敌边进军，同时等待巴蜀、关西、关中等地的府兵。
众人的建议虽然稳妥，全军一路平推，步步为营，可为大军争取充足的时间，但同时也给了汉王充足了的时间做准备，黄明远并不想在晋阳打一场耗时数月的攻坚战。
陈远也认为此时黄明远可以选择突击直入，汉王杨谅必无所防备。
黄明远乃对众人说道：“今汉王新败，军心不稳，内乱不止，正是士气最为低落之时。我军长驱直入，直捣汉王腹心之地，汉王必无所备，仓促应战，我军必可大胜。若此时顿兵于晋州城下，虽稳固了后方，但也给了汉王整顿军心，调兵遣将的机会。到时候双方沿途恶战，怕是从晋州到并州数百里之地，皆是一片焦土啊。”
黄明远跟众人解释之后，便命众人拔营北上。他本来没有跟众人解释的义务，只是怕众人因为反对而乱了军心。
众人也不敢拒绝，第二日一早，立刻拔营北上。