所以，爭取到“塢堡”的支持，對于破解北方的局勢至關重要。祖逖采取拉打結合的方氏，對于賣身求榮的堡主堅決予以打擊，而對于態(tài)度模棱兩可，對東晉政權持懷疑態(tài)度的堡主則盡力勸說。

黃河以南盤踞著不少豪強武裝，是北伐的阻力，祖逖艱苦奮戰(zhàn)，打敗自封為豫州刺史的張平等人，占領譙城（今安徽亳州）。而自封為陳留太守的陳川叛歸石勒，祖逖攻陳川，石勒則派石虎率大軍5萬南下，逖設奇兵打敗石虎，接著又大敗桃豹，攻取雍丘（今河南杞縣）。