石虎刚一撤退，祖逖立马出兵浚义，几乎和桃豹同时到达，结果桃豹屯兵西台，从南门出入；祖逖则派韩潜据东台，由东门出入，祖逖又派冯铁部进据二台，自己统兵镇守雍丘。
两军形成胶着状态，四十多天。
祖逖决定还是智取为上。
他琢磨双方粮草供应都很紧张，于是想出一条无中生有的妙计，伪装出一副粮食充足的样子，吸引桃豹的注意。
祖逖派兵士运送鼓鼓囊囊的粮食袋子，里面其实盛满的都是砂土，无非假装是食用的大米，运至晋兵据守的东台。这不是主要的，他又派数人挑着真正的大米，佯作累坏了，脱离了大部队，躺在道旁喘气歇息。西台的桃豹的兵士望见，马上派精兵来偷袭。担夫早都计划好了，看见他们远远的来了，依据计谋，假装惊惧状扔下担子，大呼小叫的就逃。
桃豹军士打开袋子，见里面全是上好的大米，禁不住内心不是滋味，赶紧将情况报给了桃豹，说祖逖有上千人运粮，推断晋军粮食充足。
行军打仗，拼的就是粮草，见敌方粮多豹充足，还是白花花的大米，羯族士兵难免心中泄气。
桃豹赶紧把这种情况火速报告石勒，石勒一听，不就是粮草吗？怎么可能拼不过祖逖？于是下令，派遣大将刘夜堂用千头壮驴运送粮草，支援桃豹。
祖逖等的就是这个，在粮草必经之路汴水设下埋伏，石勒驴队刚到，韩潜、冯铁两位将领带兵杀出，一顿激战，得了粮草，那上千头壮驴也被赶了回去，可谓收获颇丰。
桃豹一看，无粮可用，没办法，只好退兵而走，退守东燕城。
桃豹一退，祖逖获得了浚义之战的全面胜利。局面打开，凭据封丘、雍丘为根据地，多次出兵攻打石勒河南守军，并屡次派兵截击石勒的军队，石勒以前占据的很多城镇纷纷叛变归晋。
这样石勒在河南的地盘迅速萎缩，都集中在沿河一带很小的范围。
石勒自然是不甘心失败得，后又派遣一万多精锐骑兵反扑，但是他的骑兵遇到祖逖就像遇到了绊马索，怎么打都是输，最后惨败而回。又经过一年多的反复争夺，祖逖终于取得了豫州的控制权，取得北伐战争以来最重大的胜利。晋元帝万万没想到，祖逖这么厉害，立刻擢升他为镇西将军。
祖逖上书，请求朝廷尽快出兵北伐，渡过黄河，联合鲜卑、邵续等部，共同出兵，那么石勒可灭，接着便是刘曜，也不是不可战胜的，并指出朝廷并不是缺乏兵力，而是兵力分散，不能众志成城，统一协调作战，如果能团结起来，北伐是绝对可以成功的。