师长兼政治委员彭雪枫(后邓子恢任政治委员)，参谋长张震，政治部主任肖望东(吴芝圃代)。下辖第十旅，旅长刘震，政治委员康志强(后金明)；第十一旅，旅长滕海清，政治委员孔石泉；第十二旅，旅长谭友林(饶子健代)，政治委员赖毅；肖县独立旅，旅长钟汉民，政治委员李中道，1941年5月，为精简机关，充实部队。将第十二旅机关撤销，所属第三十四、三十五团直属师部指挥。同年9月，第十旅与第三师第九旅对换建制。1941年11月7日成立淮北军区，第四师师部兼军区机关。1944年9月彭雪枫牺牲，由张爱萍继任师长，韦国清为副师长。1945年10月，第四师第九旅开赴山东编入第二纵队，其余机关、部队留华中。11月，以第十一、十二旅各两个团及淮北路东1个团，合编为华中野战军第九纵队。