1938年9月，日本华北方面军司令官杉山元，根据大本营“中攻武汉，南取广州，北围五台”的作战计划，调集3个师团、3个旅团等共5万兵力，从9月20日起，兵分25路，从四面八方开始向五台山区发动进攻。敌人这次出动的部队，几乎是清一色的日军，进攻的目标是晋察冀边区党、政、军领导机关驻地和八路军控制的县城，其作战方针是分进合击，多路围攻，步步为营。
聂荣臻与他的助手们及时研究了敌人围攻的特点，制定了各部队反围攻应采取的作战原则和计划。边区军民已经有了近一年反围攻的锻炼，对于粉碎敌人新的围攻，他是充满信心的。
一天，金刚库上空突然出现一架日军侦察机。这使聂荣臻警觉起来，他下令军区机关及直属单位立即转移。果然不久，日军轰炸机飞临上空，进行狂轰滥炸。原来金刚库有个汉奸，在天津某电话局当局长，他了解八路军在金刚库的住处，向敌人告了密。那次如果不及时转移，军区机关可能会遭受损失。
五台自然是这次日军进攻重点之一。在第一阶段日军出动的10路进攻部队中，有4路是以五台为目标分进合击的。二分区主力四团、五团、六团和地方部队进行了顽强阻击，使日军受重大损失。
聂荣臻率军区领导机关转移到耿镇与石嘴附近的一条山沟里，正值敌独立第四混成旅团大队长清水正夫率部在飞机掩护下进攻五台县东南的柏兰镇。这个清水大队长是个气焰极为嚣张的法西斯分子，一再扬言要荡平五台山，发誓要带兵“胜利”地开进五台县城。为了防止敌人逼近首脑机关，聂荣臻要唐延杰参谋长立即指挥二分区的部队和军区学兵营掩护机关和后方人员撤退。
唐延杰指挥部队在牛道岭袭击了敌人。据一位老参谋回忆说：“我们事先知道日军从牛道岭的山上下来，在山下的下耿家庄镇过夜。参谋长让部队避开敌人，在夜间悄悄地上山占据有利地形。9月29日清晨，敌人正在集结准备出发，参谋长下令主动袭击敌人，他亲自带一个警卫连冲下去，敌人猝不及防，一下子被击毙了不少人。当时并不知道清水大队长也被打死了。这一仗打得好，但是时机不对，不应该主动进攻敌人，而应该避敌锐气，与敌周旋。结果，敌人武士道精神十足，立即组织反扑，攻上山来，掷弹筒、机关枪全干上了，我们遭到了不小的损失，伤亡了几十个学兵营的干部，参谋长也负了伤。”
好在唐延杰参谋长虽然负了重伤，并无生命危险，还能打电话向聂荣臻报告战斗情况和伤亡人数。聂荣臻一听牺牲了那么多宝贵的干部，一反常态地变得急躁起来：“你——伤口疼不疼？”
“疼！”
“疼！我还要找你算帐呢！”
聂荣臻很少发脾气，这是少见的一次。后来，当扎着绷带的参谋长出现在聂荣臻的面前时，这位平素儒雅温和的将军突然背着手，低着头，闷不出声地快步走来走去，房间里的空气陡然凝固了，参谋人员和警卫人员都躲到屋外。聂荣臻走着走着，突然在唐延杰面前停住，猛地抬起头说：“我就这么点宝贝干部，一下子叫你给损失了不少！战机掌握得不对不说，你一个军区参谋长，高级指挥员，不是连排干部，随便离开指挥位置，带人冲杀，只图一时痛快！你要是战死了，敌人轻易地搞掉我们一个高级干部，我怎么向中央和总部交侍？怎么对得起你老兄？
嗯？！”
雨过天晴。聂荣臻发过火之后，重归平静，他对挨批评的同志不抱成见，见面还是跟往常一样。他也知道，唐延杰完成掩护任务心切，主动袭敌的出发点是好的，自己对他的批评虽然正确，态度上似乎有些过火，但是事后他没有向参谋长再作解释。这次战斗击毙日军清水大队长之事，他是20天后从敌人的报纸上得知的。聂荣臻在偶然得到的日本《福冈日日新闻报》上，看到10月6日日本同盟社的一条电讯，说：“山西肃清战中著有赫赫武勋的清水大佐战死??而在这些将校的死亡之外，其兵士死伤的人数，更不在少数。”那张报上还刊登了日军抬着装有清水尸体的棺材进五台县城的照片。
聂荣臻立即将这个情况向总部作了报告。
聂荣臻一边带领军区机关向蚊潭庄转移，一边指挥全区的反“扫荡”斗争。5万多敌军压境，陆续侵占了边区全部重要城镇，情况是空前严重的。
中共晋察冀分局发出号召，要求全边区人民紧急动员起来，配合部队作战，将日军赶出边区。9月30日，聂荣臻在一天之内连续向总部和中央发出两份电文，如实反映了困难的局面与要求：“我已无绝对把握击溃敌人一面，如勉强行之，将造成更不利之势，而以三万之众束缚于大荒山地，无食无住，且不能周旋。”“五台很有可能失守，请速令一二九师及一二○师徐旅给我配合，若五台失守仍须积极配合我作战，否则我将处于最不利之地位。”
党中央和八路军总部领导人以焦急的心情，密切关注着晋察冀的反“扫荡”斗争。10月2日，毛泽东、朱德、彭德怀等致电聂荣臻：根据敌人的进攻特点，应“相当地集中主力，于我有利的各种条件（敌人弱，地形有利）方面准备待机”；“以小部队与敌进行极不规则的小战，迟阻和疲惫敌人，以相当有利（力）部队转入敌之后方交通线，打击敌之运输”；“如敌无弱可乘，不便我主力集中打击或消灭敌时，待敌人进至利害循环变换线，即将主力转至敌后方，仍以小部队分途逐渐引敌深入，使敌疲惫、疏忽、扑空，待敌转移方向或退却时，给敌以突然的袭击或追击。”在这份电报中，总部还令第一二九师破坏正太路，积极尾击由正太路北进之敌。令一二○师的三五八、三五九旅采取有力措施配合晋察冀军区作战。这份电报来得很及时，对这次反围攻作战的胜利，起了重要的指导作用。
承认敌人的优势和自己的劣势，不但敢于正视它，而且坚决贯彻上级指示，勇于扭转它，这是一种实事求是的指挥员的风度。聂荣臻正是这样。他临危不乱，一方面及时向上级反映情况，请求帮助，一方面沉着地指挥军区部队调整部署，部分部队采用游击战术，与敌周旋，主力部队则跳出合围圈，在敌供应线侧翼打敌运输队及掩护部队，大量破坏道路、桥梁。有时候，在战斗最关键、最惨烈的时候，聂荣臻不得不向自己的爱将们下达死命令。在阜平东西庄大战中，敌人来势极猛，一分区、三分区主力及冀中独立旅一部共10个团与敌人血战。在战斗最关键的时候，聂荣臻甚至与团长们直接通了电话。一次，他给三团团长纪亭榭打电话说：“纪亭榭！我告诉你，几十万边区票子还没运出去，你一定要顶住！我给你下个死命令——你一定要做到人在阵地在。听清了吗！”纪亭榭义无反顾：“好！我和我们三团全体人员一定按司令员命令做到人在阵地在！”这是一次硬仗。八路军参战部队共消灭日军1000多人，但这是以自己伤亡400多人、中毒700多人的沉重代价换来的。针对日军施放催泪性毒气弹的残暴行径，聂荣臻立即总结中毒部队的防毒经验，以急电传达至各个部队。战后，聂荣臻嘉奖了各参战团队。他亲自打电话表扬三团打得好，并派邓拓前去慰问三团。
10月下旬，整个战局果如中央所料，起了很大的变化。进入山地的日军十分疲惫，八路军却愈战愈勇。聂荣臻令各分区集结主力，予敌以狠狠打击。
在一二○师三五八旅、三五九旅配合下，军区部队在各地主动出击，重创日军。其中在高洪口战斗中，军区部队与三五八旅配合，歼灭了日军蚋野大队长以下500余人。至11月7日，历时48天的反敌多路围攻的战斗胜利结束，日军被毙伤5200多名，其“北围五台”的幻梦彻底破灭，最后不得不狼狈逃窜。
作为“北围五台”计划的组成部分，从11月起，日伪军先后以2万多兵力，对冀中根据地发动了5次围攻。冀中军民在贺龙、关向应等率领的一二○师主力部队强有力的支持下，歼灭了大量敌人，粉碎了敌人的围攻计划，迫使日伪军转入以保守城镇据点为目的的防御状态。贺龙率一二○师主力进入冀中后，还收编和改造了大量杂色武装，对巩固和加强冀中根据地起了重要作用。聂荣臻为此十分欣慰。
边区党政军首脑机关在反围攻的炮火中，安全地转移到了平山县蛟潭庄一带。
反围攻胜利以后，聂荣臻根据历次作战情况，总结出了游击战的五条重要经验。他说：处在敌人远后方被包围的部队，要取得胜利，必须发现和制造敌人的弱点。一年来的经验告诉我们，敌人的弱点是能够找到的，然后用游击战术去打击它。
第一，敌人作战离不开交通线，一旦离开，运输联络就十分困难。特别是深入山地之后，辎重过多，行动滞笨。此次进攻五台，就用了近1000匹牲口，每日行军不过10余里，便于袭击。这次除五台外，在定县、曲阳间，党城、王快间，晋察冀部队沿交通线各歼敌300余，缴获很多。
第二，敌人占据某一据点之后，如果后方交通线被切断或破坏，据点中的敌人立即孤立，非败退即被消灭。此次收复阜平、王快，就都是敌人因交通线被破坏而不得不弃城逃窜。
第三，敌人因地形不熟。害怕夜间战斗。八路军组织夜袭，一般都能成功。
第四，在山地，敌机械化武器大多失去作用，大部队在山沟里无法展开，小部队不敢轻易深入。八路军在山地却可以经常举行袭击或伏击。
第五，敌人在受到严重损失后，为维护其所谓“皇军的威严”，事后总要行报复性进攻，已成规律。八路军可据此伏击歼敌。
这次反围攻的胜利，意味着晋察冀边区已成为敌后巩固的抗日根据地了。