抗日战争进入相持阶段以后，日本帝国主义在政治上实行“以华制华”政策，对国民党当局进行诱降；在经济上实行“以战养战”政策，加紧掠夺沦陷区财力物力；在军事上，则以主要兵力“扫荡”敌后根据地。英、美等帝国主义因为忙于应付欧洲紧张局势，开始酝酿阴谋制造“东方慕尼黑”，准备出卖中国以求得对日本帝国主义妥协。在这种情况下，国民党副总裁汪精卫于1938年12月公开投敌，蒋介石动摇。紧接着国民党召开五届五中全会，决定采取“防共”、“限共”、“溶共”的反动政策，作为对日妥协的准备步骤。在此严重的危机面前，中国共产党召开六届六中全会，重申了全党坚持独立自主地放手发动人民开展抗日武装斗争的方针，把党的主要工作放在战区和敌后，大力巩固华北、发展华中。会议决定成立中共中央中原局（刘少奇任书记）和南方局。确定沦陷区党的主要任务是建立党的组织，发动群众，武装群众，开展敌后游击战争，创建根据地；未沦陷区党的任务是开展党的工作和群众工作，准备游击战争和支援敌后。

1939年1月，刘少奇抵达河南省确山县竹沟镇，坐镇中原前线指导工作。他指出：只有坚持独立自主，共产党才能向敌后发展；也只有大胆深入敌后，才能真正使新四军坚持独立自主；舍此，只能被国民党捆住手脚，只能成为他人囊中之物，从而也就根本谈不上发展与巩固抗日民族统一战线了。他要求鄂豫边地区的党和抗日武装，迅速到武汉外围敌后发展自己，壮大抗日武装，打出新四军旗帜，切实担负起共产党在敌后抗战中的领导地位。1月17日，李先念率新四军豫鄂独立大队及随行干部共160余人自竹沟南下，执行党中央赋予的挺进豫鄂边区，开创武汉外围敌后抗日根据地的战略任务。为了便于进行统战工作，这个大队，对外称“新四军独立游击支队”，支队司令员李先念（化名李威），参谋长周志坚。

南下路上，李先念放手发动群众武装抗日，大力发展中共地方组织，打击日伪顽军，建立游击根据地，不断壮大自己，先后将鄂中、豫南、鄂东的几支由共产党领导的地方抗日武装统一整编在新四军的旗帜之下。至1940年上半年，这支部队由最初的百余人的独立大队，发展成为上万人的挺进纵队。

1940年9月，德、意、日订立军事同盟，日本帝国主义为配合德国法西斯的侵略行动，准备向太平洋扩张，急谋结束侵华战争，加紧向蒋介石诱降。英、美为其自身利益，大量增加援华贷款，企图诱使蒋介石彻底投靠英、美集团，从而利用中国牵制日本南进。国民党顽固派则乘机掀起第二次反共高潮，震惊中外的“皖南事变”，就是这次反共高潮的顶点。

1941年1月4日，新四军军部及所属部队9000余人奉命北移，6日行至皖南泾县茂林地区，突遭国民党7个师8万人的包围袭击，血战7昼夜，终因弹尽粮绝，除约2000人突围外，大部壮烈牺牲和被俘。军长叶挺被扣押，副军长项英遇害。17日，蒋介石竟反诬新四军“叛变”，宣布取消新四军等番号，并声称要将叶挺“交军法审判”。

对此，中共中央迅速作出反应，指示华中的党和军队继续坚持抗日民族统一战线政策，独立自主地长期坚持华中敌后抗战，反对国民党的投降分裂活动，坚决击退反共军队的进攻，同时，在政治上展开猛烈进攻。1月18日，中共中央发言人发表谈话，全面揭露蒋介石制造“皖南事变”、摧残抗日力量的滔天罪行。1月20日，中共中央革命军事委员会发布重建新四军军部的命令。任命陈毅为代军长，刘少奇为政治委员，并统一整编华中部队为7个师和一个独立旅。其中转战在武汉外围敌后战场的新四军豫鄂挺进纵队整编为新四军第五师。

1941年2月18日，中共中央军委任命新四军各师领导人。李先念任五师师长兼政治委员，刘少卿任师参谋长，任质斌任师政治部主任，王翰任政治部副主任。军委命令传到鄂豫边区，给边区的干部、群众和指战员极大鼓舞。纵队受令后，即在战斗中进行整编工作。

1941年4月5日，新四军第五师全部组建完毕。李先念等全体将领于安陆白兆山彭家祠堂通电就职。4月10日，部队一律使用新番号。

五师司令部设参谋处、情报处、军需处、军医处和副官处；政治部设组织部、宣传部、锄奸部、敌工部、民运部、联络部；并建立了后勤部和卫生部。师部下辖3个正规旅（第十三、十四、十五旅），2个地方游击纵队（第一、二纵队）和区党委警卫团。周志坚任十三旅旅长，方正平任政治委员；罗厚福任十四旅旅长，张体学任政治委员；王海山任十五旅旅长，周志刚任政治委员；杨径曲任第一纵队司令员，张执一任政治委员；黄林任第二纵队司令员，刘子厚任政治委员。其中，十三、十四、十五旅分别在鄂中的白兆山，鄂东的陂安南和襄西的当阳境内召开了建军誓师大会。这时全师兵力达15300余人。

白兆山是大洪山的余脉，座落于安陆、随县、京山、应山四县边界，与桐柏山的四望山、大别山的大小悟山遥遥相望，互为犄角，形成三足鼎立之势，有广阔的迂回之地。由此向北，可控制鄂北，长驱中原；往西，可进取天西，发展襄西，威逼荆襄；向东，可直入路（平汉铁路）东，建立大小悟山根据地；往南，能直捣江汉，雄视武汉，历来为兵家必争之地。五师司令部就设在白兆山这个战略要地上。

1941年4月30日，中央军委公布新四军各师军政委员会名单。中共五师军政委员会由李先念、任质斌、刘少卿、陈少敏组成，由李先念任书记。7月18日，中央军委又根据李先念的建议，任命任质斌为五师代理政治委员。9月，由鄂东地方武装组成第三纵队，何耀榜任司令员兼政治委员。11月，成立特务旅，取消各纵队番号。这时，五师所辖第十三、十四、十五旅和特务旅，分别由周志坚、吴林焕、杨径曲、罗厚福任旅长，方正平、张体学、周志刚、何耀榜任政治委员。

新四军五师的建成，标志着鄂豫边区抗战和部队建设走上新的阶段。五师这支鄂豫边区人民的子弟兵，在党和人民的培养和支持下，已逐步成长为正规化的游击兵团。军事政治素质日益提高。它不仅善于进行灵活的游击战争，而且能进行较大规模的运动战，成为鄂豫边区坚持抗战，坚持抗日民族统一战线的坚强的人民武装力量。