抗日战争全面爆发后不久，中共中央在洛川会议上强调，红军（八路军）必须在敌人后方放手发动独立自主的山地游击战争，使游击战争担负配合正面战场，开辟敌后战场，建立敌后抗日根据地的战略任务。
八路军东进时，按照预定的战略计划，部队集中向冀（河北）、察（察哈尔）、晋（山西）、绥（绥远）4省交界的恒山地区挺进。但是，华北日军采取大迂回的姿势包抄太原，恒山山脉便成为敌人夺取冀、察、晋3省的战略中枢，敌人在这里频频出动主力，使得阎锡山所率各军已失锐气，节节败退。鉴于这种新形势，毛泽东于9月17日致电八路军总部，指出：过去决定八路军全部在恒山山脉创造游击根据地的计划已根本上不适用了，如依原计划执行，必将使自己处于敌人的大迂回中，完全陷于被动地位。因此应改变原来的部署，将部队展开于敌之侧翼，钳制敌之进攻太原与继续南下，真正执行独立自主的山地游击战，广泛发动群众，创建根据地，支援华北游击战争和扩大自己本身。
根据中共中央的这一重要的战略部署，朱德在平型关战斗结束后，迅速将八路军各部由集中行动改变为分散行动，并大体划分了各部的活动区域：一一五师控制五台山、恒山，活动于晋东北，着手创建晋察冀抗日根据地；一二○师控制管涔（c6n）山，活动于晋西北，并以一部到冀西活动。9月28日，朱德、彭德怀致电中央，建议一二九师迅速出动，暂在娘子关南北活动。9月30日，刘伯承师长率一二九师先遣队从陕西富原县庄里镇出发东进，首先进入正太铁路以南的平定地区，随后着手创建以太行、太岳山脉为依托的晋冀豫根据地。此外，八路军政治部副主任邓小平还率领一批干部，前往日军尚未到达的晋西吕梁山地区开辟工作。
10月初，日军继续加强对正面防守的国民党军队的进攻。2月，攻占了雁门关。国民党守军放弃了雁门关到平型关以内长城防线，退守忻口东南一线阵地，并调集16个师兵力，以卫立煌为前敌总司令，进行忻口会战。同时，由孙连仲等部在娘子关一带阻敌西进，以策应在晋北的主力决战。这时，朱德、彭德怀等致电中央，表示“我们目前应以一切努力，争取以山西为主来支撑华北战局的持久，使友军一下子不过黄河，消耗日寇力量，逐渐提高友军胜利信心，渐次改造友军，推进民主，扩大（八路军）本身。”毛泽东回电同意他们的意见。随之，八路军以机动灵活的战术和有力的动作，积极地配合友军作战。
10月13日，日军第五师团出动5000余人，在飞机配合下，向忻口发起猛攻。八路军总部命令：一二○师挺进雁门关以北地区，威胁大同；一一五师占领平型关，袭击敌汽车，破坏道路。14日，一一五师徐海东旅在小寨附近截击了日军汽车队，并夺回了平型关等地。18日，一二○师主力在雁门关附近伏击日军辎重部队，夺回了雁门关，截断了从大同经雁门关到忻口的交通。19日，一二九师三八五旅陈锡联团在朱总司令的亲自部署下，夜袭阳明堡日军机场成功，一时传为佳话。
忻口会战中，日军飞机活动很猖獗，除了运送物资外，还不断轰炸友军阵地，使友军损失很大。这时，一二九师三八五旅陈锡联团到达前线，暂由总部指挥。朱德、彭德怀将这个团部署在阳明堡、崞（gu#）县之间，并要求友军李默庵部协助袭击日军，以便该团能破坏日军飞机场。19日夜，当朦胧的月亮躲到一大团黑云中去时，三营的赵宗德营长率领一个连的战士，躲过了敌人的岗哨，进入到机场里。他们急步向前，打算先消灭驻守机场的日军，占据机场。然而，敌人发觉了，并向机场开枪。在飞机上睡觉的敌飞行员也被惊醒，在机上慌乱地开枪。八路军健儿们隐蔽在机身底下，扔着手榴弹，很快，一架架飞机燃烧了起来，总共炸毁日机24架。当八路军总部将这个消息转告友军时，他们最初还不相信。可是第二天、第三天，日机没有来，从太原派出侦察机到日军机场侦察后，这个消息才被证实。
忻口会战是抗战初期华北战场上作战规模最大、对日军打击最沉重的一次战役。中国军民在这里坚守了近1个月，使日军伤亡约4—5万人。其中，八路军袭击敌后方交通线，断绝其交通，沿途杀伤的敌人不亚于正面战线的人数。但是，由于国民党守军指挥失策，娘子关失守，致使整个战局陷于被动。11月8日，太原陷落。这标志着华北地区正规战争的结束，以八路军为主体的游击战争进入主要地位。
太原失守后不久，朱德于11月11日在晋东南和顺县石拐镇召集八路军领导干部会议。会议根据中共中央和毛泽东的决策，对八路军主力在山西开创抗日根据地和从事游击战争，作了新的战略部署：一一五师除聂荣臻所部以五台山、恒山为中心，以晋东北为基地开创晋察冀抗日根据地外，主力迅速转到吕梁山区，开创晋西南抗日根据地；一二○师以管涔山脉为支点开创晋西北抗日根据地；一二九师以太行山为中心，以晋东南为基地，开创晋冀豫抗日根据地。这时，国民党军队大批撤退，影响了华北一部分人民的抗日信心，为此，八路军总部及时提出“坚持华北抗战”，“坚持山西抗战”，“创建抗日根据地”，“开展游击战争”“变敌人后方为前线”等鼓舞人心的口号，决心和华北人民共同坚持敌后抗战。此后，八路军各部深入敌后，广泛发动千百万人民群众，组织抗日游击武装，建立各级抗日民主政权，创建了一个又一个抗日根据地。
晋察冀根据地是八路军创建的第一个抗日根据地。它地处平绥、平汉、同蒲、正太铁路之间，太行山、五台山和恒山山脉连绵交错，极利于坚持和发展游击战争。平型关战斗后，一一五师副师长聂荣臻率领总部特务团、一一五师骑兵营及一二○师派遣的工作团等 2000多人，以五台山为依托，开始了创建根据地的艰难历程。这时，晋察冀三省交界地带处在极端混乱状态中，难民四散，国民党军队撒手南逃，土匪峰起，日军南进而造成后防空虚。一一五师进入该地后，发动群众，组织游击队，相继收复蔚县、涞源、曲阳等20余座城镇。同时，冀西、晋北、冀中、察南等地区，也开始组织抗日武装，开辟根据地，收复了50余座县城。11月7日，奉朱总司令之命，正式成立了晋察冀军区，聂荣臻任司令员兼政委。晋察冀军区的成立为根据地的创建奠定了基础。1938年1月，晋察冀边区军政民代表大会在河北阜平县召开，选举产生了由共产党员、国民党左派人士组成的晋察冀边区行政委员会。这年春天，肖克率一个支队挺进到北平的西山一带，开辟了平西根据地。4月，在冀中成立了行政公署，建立了冀中根据地。6月，八路军四纵队进入冀东，策动了冀东20万人举行抗日武装暴动，开辟了冀东根据地。这些根据地的开辟，使晋察冀抗日根据地不断扩大，抗日力量不断增强。日军对根据地一次又一次的围攻、“扫荡”，都被根据地抗日军民所粉碎。
晋绥根据地包括山西西北部及绥远东南部，所辖46个县，两个省会（太原和归绥），面积33. 1万平方公里。1937年9月，贺龙、关向应等率一二○师挺进晋西北，一方面配合国民党正面战场防御作战，一方面开辟抗日根据地。11月太原失守后，一二○师在晋西北开展游击战争，年底开辟了以管涔山为中心的晋西北抗日根据地。1938年2月，日军乘机向晋西北发起进攻。一二○师奉命回师，与敌激战20余日，收复7座县城，巩固了晋西北根据地。8月，一二○师三五八旅政委李井泉率七一五团等部约2000人，北出绥远，同当地抗日游击队会师，在绥中、绥西、绥南、察哈尔等地开展游击战争，于年底开辟了大青山根据地。至此，晋绥根据地初步形成。
晋冀鲁豫根据地包括太行、太岳、冀南、冀鲁豫等地区。1937年11月，一二九师在正太路痛击日军以后，进入晋东南，以太行山为中心开辟抗日根据地。部队除主力保持机动外，组成若干游击部队和工作团，深入晋东南和平汉路以西的晋冀、晋豫边以及冀南地区，开展游击战争。1938年4月，晋东南军民粉碎了日军九路围攻，收复了辽县（今左权县）、襄桓、沁县、屯留、长治等18座县城，奠定了晋冀豫、冀南根据地的基础。与此同时，一二九师、一一五师各以主力一部进入冀南和平汉路以西的冀豫边地区，开辟了漳河以南、道口至清化铁路以北的豫北地区。1939年2月前后，一一五师主力一部进入山东。1940年4月，八路军第二纵队挺进冀鲁豫边区，成立了冀鲁豫军区，冀鲁豫根据地基本形成。这样，在华北大地上一块较大的抗日根据地建立起来了。它西迄同蒲路，东至津浦路，南衔黄河，北接正太（铁路）、石德（公路）二路，并与晋察冀根据地、晋绥根据地、山东根据地以及新四军开辟的华中根据地相接，使华北抗日根据地联成了一片。
山东根据地含渤海、鲁中、鲁南、胶东、滨海5个地区，包括山东及江苏、河北各一部分。抗战爆发后，中共山东省委组织和发动了山东各地的抗日武装起义，成立了山东人民抗日救国军和山东人民抗日游击队等组织，为山东根据地的创建奠定了基础。到1938年6月，在盐山、乐陵、文登、长山、徂徕山等地，党组织领导多次抗日武装起义，建立游击武装，逐步开辟了10个抗日根据地，还普遍建立了县及县以下各级抗日政权。为统一领导，1938年12月成立了中共山东分局，各地抗日武装统一编为八路军山东纵队。与此同时，八路军一一五师和一二九师各一部进入冀鲁边区，将该地区部队统一编为八路军东进抗日挺进纵队，建立了冀鲁边区根据地。1939年8月1日，八路军第一纵队成立，统一指挥山东及苏北地区的八路军等抗日武装。党政军领导机构健全与统一，抗日武装力量的整编，地方政权的普遍建立，表明山东抗日根据地已初具规模。
抗日根据地是抗日武装力量保存和发展自己、消灭敌人的战略基地。八路军在华北创建的广大根据地，不仅为敌后游击战争提供了可靠的兵源和必要的给养，而且得到了抗日群众和民兵的全力支援。在中国共产党正确的战略方针指导下，到1940年，建成了将近一亿人口的大小十几块抗日根据地，八路军、新四军及其他抗日武装人数达到50万人。敌后广大抗日军民同日伪军展开了不屈不挠的斗争，粉碎了敌人的疯狂围攻和“扫荡”，消灭了大量日伪军。到 1940年，八路军及新四军抗击了侵华日军的58%和伪军的全部，总数达70万人。敌后解放区战场成了抗日的重要战场。
