他奉命只带五个连去建立新的根据地，四个月后拥兵两万
冀南这里，山西到山东的交通线经过这里，同时也控制河北南北交通线，同时物产丰富，八路军既然已在太行山一带占稳腿跟，当然要立刻往这里辐射力量。八路军的总战略是从太行山脉一直向东，直到控制山东，然后向南打通和江南新四军的联系。那么，占领冀南便是很关键的一步了。1938年1月15日陈再道的东进纵队到达河北隆平县魏家庄，他的计划是拿下前面的巨鹿和南宫两个县，以此为中心建立根据地，这两个县离铁路线比较远，日军还没有占领。
可他刚到魏家庄，当地的地下党就来人告诉他，巨鹿那边正在打仗，好几波土匪为了抢地盘火拼，已经打了十几天了。其中最大的一股刘磨头部，有六七千人枪。而巨鹿县城的保安团长王文珍，警察局长甄福喜，都已秘密接受了日军的委任，正在筹建维持会。保安团虽然只有千多人，但有很多老兵，装备也好，战斗力不可小觑。巨鹿局面如此复习，手中只有区区五个连的陈再道能拿下吗？陈再道的策略是给他们说和，红军当时威名很盛，只要是老红军经过长征的，只要亮出身份就能让这些土匪服气。解决了巨鹿的事情后，东进纵队很快在南宫一带展开，向东向西向南都取得了巨大的发展。
但南宫北面这里也有两股武装也在争抢地盘，一股段海洲部就有六七千人，另外一股赵云祥部更大，占着10几个县。赵云祥想吃掉段海洲，段就想借着八路军的势力干掉赵云祥。陈再道这里玩的手腕很老到，他先是建议成立三方联合的军政委员会，然后在接触的过程中，先是段海洲被感化，自动接受改编。然后陈再道又策反了赵云祥手下的两个干将葛桂斋和邵伯武，这两部被改编为东进纵队第五支队，赵云祥这股势力也就此瓦解。这时才是5月，陈再道的东进支队进冀南不过4个多月，就已扩大到两万余人。之后又消灭了顽匪刘磨头部，也就不到半年光景，整个冀南就从一片混乱的土匪争霸的局面，变成了八路军铁板一块的根据地，八路军就此打通了向山东发展的通道。
为了更快的稳定冀南根据地，刘伯承还派宋任穷带着他的骑兵团到这里，就是那个电视剧中国骑兵的历史原型了。局面一下子扩大到这种地步，对下一步发展以陈再道的能力就不够了，这时中央调陈再道的老首长徐向前过来。徐向前一到冀南，立刻组织起对邢临公路沿线的日军展开攻势他以一个团袭击威县，另一个日伏击平乡方向的增援日军，以骑兵团和东纵1团伏击临清方向的日军。一仗下来，拿下威县，临清、南和、平乡的日军直接弃城跑到邢台，至此整个冀南800万人口的广大地区全部回到中国人手中。