在李密的江淮战略中，主力是攻打淮南尧君素的十万大军，拥兵六万的单雄信只是偏师，出兵历阳的主要目的是牵制能征善战的杜伏威军团，等到李密灭掉由萧铣军整编而成的淮南军，就会挟大胜之势南下庐江，然后和单雄信一起夹攻历阳的杜伏威。
针对李密这一战略，其实单雄信和房玄藻是抱着反对意见的，他们认为，隋唐魏的三足鼎立之势已经不可能了，淮北七郡、江淮大地已经很难守得住，最好、最安全的选择是彻彻底底放弃淮北七郡和江淮大地，让徐世绩和王伯当退到长江之南，然后将都城迁移到丹阳郡，集中优势兵力建立长江防线，然后南图孟海公，做到真正的划江而治。
但是李密的划江而治是以淮水为界，这与两人的想法截然不同，李密坚持打这一仗的原因有三个，一是今年刚刚立国，如果一战不打就放弃三分之二的疆域，他这个大魏皇帝如何向治下子民交待？又如何竖立帝王之威？二是江淮上的两路隋军正处于最虚弱之时，只要大获全胜，那么江淮就是大魏的了，到时候主动放弃淮北七郡，军队和百姓也没什么好说的；其三、占据江淮，和李渊、林士弘形成齐头并进之势，这样才能以箭头之势，对北方的隋朝形成压制之势，否则偏安一隅，难以持久。
而实际上，单雄信和房玄藻也觉得胜算极大，更不甘错失歼灭尧君素和杜伏威的良机，所以顺水推舟就应了下来。
此时单雄信也全面进军，将六万大军推向了历阳六合山一带，魏军的大举入侵，迫使杜伏威将兵力集中在乌江县，而历阳郡治历阳县则是成了他的后勤重地，但因为历阳县离长江不远，杜伏威为了防止魏军逆流而上，断了自己的后勤，必须在历阳屯积了重兵，致使乌江兵力远不如魏军。
六合山西南麓的魏军中军大帐，单雄信正与几名大将和谋士商量眼前局势。
“诸位将军，杨侗为了攻打李唐王朝，并没有派兵支援杜伏威，而是让杜伏威自行招募青壮入伍，他手中兵力计有六万，从人数上看，和我们一样，但在去年的大战当中，杜伏威损失惨重，百战之师仅剩三四万人，据我们的斥侯来报，历阳县有三万大军坐镇，也就是说，乌江隋军只有我们的一半。以他现有兵力，几乎不可能主动攻击。但江夏隋军极多，正式开战之后，秦琼极有可能挥师增援，从江夏顺流到历阳，也就两三天时间。所在越拖下去，局势对我们越不利。”
行军左司马郑题猜测到了单雄信的真实想法，拱手道：“大将军的意思是说我们不当看客，而是对杜伏威