李渊得知辅公祏反叛，极为震怒，把杜伏威除官监禁。
此时李渊正在大殿内来回踱步，琢磨派谁到江南平叛。他想：李世民是南下平乱的最佳人选又怕他军功太高不好驾驭，若派太子建成去又怕力有未逮。
正寻思间有近侍来报：“启奏圣上，秦王请求觐见。”李渊犹豫了一下道：“宣他进来。”李世民见过父皇，李渊赐座。
李世民奏道：“孩儿愿领兵南下平定辅公祏之乱，请父皇俯允。”
李渊笑道：“杀鸡焉用牛刀。南边的乱匪乃是疥癣之疾，北边突厥人才是心腹大患。只有你留在长安坐镇，突厥才不敢轻举妄动，朕才心安哪。”
李世民愣了一下。他想，以前四方有乱父亲都会毫不犹豫派自己挂帅出征，如今辅公祏拥兵二十万雄霸江南，父亲为何不让我挂帅平叛？
李渊清楚世民的心思，起身摸着世民的后背道：“几年来你马不停蹄，征战四方，为父心疼你啊！你母亲昨晚托梦给我，让我照顾好你，她也心疼你啊。”
李世民一听父皇提起仙逝的母后，不禁心中一颤。李世民虽是天挺的豪杰，但也是血肉之躯。想起去世不到一年的母亲，李世民悲从中来。以前有什么高兴和委屈，都会找母亲倾诉一番。如今没了母亲，感觉自己和父皇之间也有些疏离，毕竟有君臣之分。
李渊又道：“世民你觉得谁最合适挂帅南征？”
听父皇一问，李世民才从思绪中回来。他忍着眼泪答道：“孩儿认为如果让赵郡王李孝恭担任行军元帅，定能平定江南之乱。”
李渊笑道：“咱父子俩想到一起了！那你认为该派哪些将领做孝恭的部属？”
李世民道：“岭南道大使李靖、齐州总管李世绩和怀州总管黄君汉，此三人皆能征惯战的忠义之士，可做为孝恭的部属。”
李渊起身道：“世民你不愧是天策上将，知人善任，通晓兵机，为父不及也！”
原来这李孝恭是李渊的堂侄，机敏过人有胆有识，行军布阵不亚于李世民，尤其善于指挥水战。
第二天李渊下诏，命李孝恭为行军元帅，节制岭南道大使李靖、怀州总管黄君汉和齐州总管李世绩等三路人马。李孝恭率领水军开赴江州，李靖带领交广泉桂等州兵力开赴宣州，怀州总管黄君汉取道谯州亳州，齐州总管李世勣取道淮水泗水，讨伐辅公祏。
得知唐朝大军来犯，辅公祏派遣部将冯惠亮、陈当世率三万水陆军驻扎在博望山，陈正通、徐绍宗率领三万水兵和骑兵驻扎在青林山，并在梁山用锁链切断江中航道，修筑却月城，延绵十多里，还在长江之西构筑工事抵御唐军。
两军在长江下游来回拉锯半年之久，李渊下诏催促李孝恭进兵消灭辅公祏。
武德七年二月二日，已经抵达江州的行军元帅李孝恭召集众位将领，举行战前动员和誓师仪式，李靖、李世绩、黄君汉等七路总管齐聚李孝恭的帅船。
李孝恭笑道：“久闻懋功兄足智多谋，此次决战有何妙计？”
李世绩道：“世绩从上瓦岗起事至今，一直在北方陆地征战。在此江河纵横之地作战，毫无经验，还请元帅与众位将军多指教。不过以世绩看来，辅公祏投唐又叛唐，构陷旧主杜伏威，骗杀同伴王雄诞，如此不忠不义之徒，终将众叛亲离，死无葬身之地！”
李孝恭道：“懋功所言甚是，辅公祏乃宵小之徒，必败无疑。依我看，药师率一万人马从西佯攻冯惠亮、陈当世的陆军，君汉领水军一万从北佯攻陈正通、徐绍宗的水军，我和懋功各率水陆军三万直扑叛军老巢丹阳，擒拿贼首辅公祏！诸位以为此计可行否？”
任怀、权文诞、张镇周等各路总管赞同此计，李世绩和黄君汉正在思忖之中。此时李靖道：“元帅此计听似可行，实则不然。冯惠亮、陈当世、陈正通和徐绍宗都是百战名将，佯攻瞒不过他们。况且丹阳由贼首辅公祏亲自镇守，必有重兵驻屯。如果我们佯攻被识破，主攻丹阳又一时不克，我军必陷腹背受敌之危地！”