晋察冀军区成立后，不断发展中的八路军主力部队、游击队以及各种抗日武装，在人民群众的支援下，到处袭扰敌人的铁路、公路交通线和沿线据点，使日军越来越感受到了来自侧后的威胁。因此， 1937年11月24日，也就是聂荣臻率领军区领导机关到达阜平的第六天，日军就以两万之众的兵力，沿平绥、平汉、正太、同蒲4条铁路干线，分8路围攻刚成立的晋察冀军区。日军来势汹汹，各地纷纷告急。
面对猖獗进犯的日本侵略军，聂荣臻镇定自若。其实，大家心里都清楚，军区新组建的部队，除了一部分老的骨干力量外，大多数还没有作战经验，形势是相当严峻的。11月23日，反围攻作战开始的前一天，聂荣臻给“毛朱彭任周”及各军分区领导人的电文中，对敌情作出了如下判断：因敌深入我境，后方联络线延长，八路军不断的袭扰，晋察冀义军纷起，声势颇大，故敌有肃清联络线，巩固后路之必要。因此敌人可能向我晋察冀区开始进攻，在东面首先占满（城）、完（县）、唐（县）、曲（阳）、行（唐）、灵（寿）、平（山）等县，逐我进山区，离平汉路。西面有进攻五台、盂县，分为据点之企图。这个敌情判断完全正确。
聂荣臻抓住日军地形生疏，有不少伪军参战，不敢贸然深入我腹地的弱点，把有基础有经验的部队部署在机动位置上，相机打击敌人，更多的则是以大量新组建的游击武装对敌人进行伏击、侧击、夜袭，使趾高气扬的“大日本皇军”疲惫至极、狼狈不堪。反敌围攻历时1个月。在一二○师、一二九师部分部队的配合下，毙伤日伪军2000余人，敌被迫放弃晋察冀根据地边缘地带的几座县城，惨败回巢。边区部队带着大量战利品，在父老兄弟姐妹们的欢呼声中凯旋。阜平一位年逾古息银须飘飘的老人兴奋得接连饮下3大碗家酿的枣酒，琅声大笑道：“聂司令员的部队，全是天兵天将，没有打不赢的仗??”聂荣臻本人对军区成立后的首次反围攻倒有一个实事求是、恰如其分的分析。美国记者哈里森·福尔曼后来曾在延安采访了聂荣臻，并忠实地记下了聂荣臻的一段谈话：“在一开头，我们对这样犀利的装备着现代武器如坦克、大炮及飞机的敌人，没有作战的经验。”聂荣臻当他迈着大步，走上走下的时候这样说。
“在他方面，日本人以前也从来没有遇到一个像我们一样精于游击战术的敌人。为应付我们在他们后方的日在增强中的威胁，他们用了他们传统的正面进击，借用陆地与空间的轰炸，意欲占领我们已经占领的一个据点，开始移动军队，向我们进攻。当他们占领了这地方，他们认为战争已告结束。不过我们只是撤离这一据点，以便包抄过去，进袭他们的后方。几乎时常是我们用切断他们和他们的根据地的交通线来强迫他们退走。”
首次反围攻作战的胜利，极大地鼓舞了边区军民的斗志。八路军总部也来电赞扬：“晋察冀边区游击战发展胜利，威胁日寇后方，使日寇不得不改变占领太原后一直向风陵渡、军渡进兵。现晋察冀游击战已有很多成功，局部引起日作战计划变更，保卫了晋南、晋西，给友军以休整机会。”①1938年1月31日，正是农历大年初一。按照习惯，这一天大家互祝新① 1937年12月，八路军总部对晋察冀工作的指示。
年，在晋察冀军区司令部也显得非常热闹。
这个春节，聂荣臻过得相当愉快：一是根据地的各项工作正在逐步走上正轨；二是接待（美国军事观察员）卡尔逊来访获得了成功，通过第一个进入根据地的外国人赞赏的目光，从另一个侧面印证了敌后抗日根据地的创建和发展的方向是正确的；三是他的妻子张瑞华居然奇迹般地在除夕的前两天从延安赶到阜平，与他过了个团圆年。如果说还有什么美中不足的话，应该如张瑞华日后回忆时所说：“他又想起了丢失在上海找不回来的独生女儿。
我也心疼，说有团圆，也有缺圆呵！他还替我惋惜，因为这次我从延安分配到晋察冀工作时，我把多年的重要纪念品和全部家当，都放在中央给的那匹骡子上，结果过封锁线时误入敌区，紧急撤退时骡子跑丢了，那些珍贵的纪念品也就全没了。”
张瑞华是一位有高度自觉性的共产党员，她知道聂荣臻重任在肩，所以仅在司令部住了两天，就毅然告别了夫妻久别重逢后的温馨生活，搬到她新的工作单位中共晋察冀省委组织部去住聂荣臻确实太忙。大年初一的晚上，大家都沉浸在节日的欢乐中，聂荣臻却把唐延杰拉到一边说：“让他们热闹去吧，我们到作战室研究一下出击平汉路的计划。”
原来， 29日晚上总部来了训令，为配合国民党军的正面战场，拖住津浦路沿线之敌不使其向南进攻，要晋察冀军区在平汉路方面主动出击。接到命令后虽然制定了初步作战计划，但聂荣臻心里还是不踏实，于是他和唐延杰以及几位作战参谋又在作战室里度过了这个美好的夜晚。
聂荣臻提出，这次作战，要由三分区唱主角，出动主力和游击部队向保定至新乐段平汉路出击；一、二、四分区则都选定适当目标，作钳制性进攻。
按照聂荣臻的意图，一个比较完善的作战部署计划，于2月3日同时上报总部和下达给了各军分区。
为使作战计划得以顺利实施，聂荣臻、唐延杰于2月6日率领司令部几位参谋，深入到进攻重点地段完县、唐县地区，侦察敌情，直接指挥有关部队的作战行动。
2月9日夜，各军分区按计划出击。第三军分区在冀中人民自卫军的配合下，很快攻占定县、望都县城以及清风店、方顺桥等车站，并一度袭入保定、满城城关。第四军分区攻占新乐县城，一度袭入井陉矿区。第一、第二军分区也按计划分别袭击了浑源、忻口、原平、崞县、代县等城镇日伪军据点。以上作战共毙伤日伪军740多人，争取一部分伪军反正，捣毁大批敌伪维持会，捕获大批汉奸，缴获武器弹药一部，烧毁车站6个，破坏铁路50多公里，使平汉路一度中断。冀中部队攻克新镇、霸县、永清等城镇，游击活动深入到大清河以北地区。
敌人被这突如其来的袭击，打得晕头转向，惊恐不安。
对这次进攻战斗，朱德、彭德怀根据聂荣臻的报告，于2月11日致电蒋介石，作了如下叙述：我陈漫远（第三军分区司令）指挥之支队，一部向定州猛攻，与守敌三百余人激战三小时，敌不支退守县府，利用房屋死守顽抗，我以洋油用水龙注射（即火烧），一时火势猛烈，守敌与房屋同烬，至（九日）二十四时全城为我军占领，灰（十日）晨三时许，正定方向援敌赶到，分乘汽车二十余辆、装甲车数辆，我预先有准备，战约一小时被我全部击溃，援敌伤亡百余，缴获步枪四十余支，轻机关枪五挺??该支队另一部攻击清风店车站，守敌约百余人固守车站坚固房，我将预带之洋油用水龙注射，以数包手榴弹掷入，火势猛烈，守敌大部与房屋化为灰烬，小部企图突围，被我击毙，缴步枪十余支。该支队另一部攻击望都，守敌百余人依城顽抗，我军奋不顾身蜂拥扒城，将该敌全部歼灭，缴步枪八十余支，轻机关枪六挺??周建屏（第四军分区司令）所率支队，一部进攻新乐城，守敌约百余人，据城顽抗，我军数度冲锋，始攀城而入，将守敌全部歼灭，其宣抚之日军官十余人被打死，敌之一排兵被我纵火烧死，计缴获步枪八十余支，轻机关枪六挺，战马二十余匹??十日晨四时许，由正定方面来火车二列，满载援军，被我预伏部队截获，当即翻车一列，敌跌死跌伤不少，同时我以手榴弹猛烈投掷，大部被我解决??此役缴获步枪一百余支，轻机关枪十余挺，子弹数十箱，其它军用品不少，俘敌伤兵十余人。敌之后列车遭我猛烈射击，即未下车向南退回。①聂荣臻2月12日在给总部并北方局的报告中说：“平汉线日军被我袭击后，极为恐慌，被我破坏之铁轨与电线，至今未动修。昨派往望都之侦察汇报，该城时起谣风，一日数惊，日兵守工事里不敢出来。”
捷报传出，总部朱、彭的贺电马上就飞到了聂荣臻手中，紧接着，毛泽东的嘉勉电也到了：聂、杨、邓、周、刘、陈、王①：你们九号晚英勇的模范的袭击，九日晚给日寇以大的杀伤与威胁，占领许多要点，毁坏交通铁路，夺取敌人武器辎重，这一伟大胜利，是有很大的战略和政治意义。这一胜利，大大地配合东线友军抗战，大大地兴奋了广大的抗战军民，大大地打击了敌人和汉奸，提高了你们的作战信心与战术。这一胜利是由于总司令部、军区司令部正确领导，你们的机动果敢的指挥，和全体干部战士英勇参战，和地方抗战团体与民众的帮助之下取得的。望你们继续这一胜利的精神与经验，再接再厉地为争取新的伟大的胜利而斗争。我们已在盼望你们胜利的捷报，号召广大军民学习和发扬你们的精神与行动。争取抗战的新的转机与胜利。特此电贺。②晋察冀军区首次出击平汉路，使敌人大为震惊。日军为了保护其后方和交通线的安全，由高碑店到石家庄调集兵力1.2万余人，在飞机配合下从3月4日起，沿平汉线分4路向阜平、涞源地区发动了报复性进攻。接到报告后，晋察冀军区司令部立即召开了作战会议。唐延杰扼要讲解了易县、满城、完县、唐县、曲阳4路敌人进攻的情况。聂荣臻说：“这次敌人兵力集中，炮火猛烈，还有飞机、骑兵配合，我们正面硬拼是不行的，还得用游击战对付。”大家都同意聂荣臻的决心。于是，不要与敌人硬拼，着重袭击敌人侧后及交通运输线的命令传向各个军分区。
3月7日上午，一架敌机突然飞临阜平上空。当哨兵鸣枪报警，人们纷纷往简易的交通壕和防空洞跑的时候，敌机已经俯冲下来了。由于特务事先告密，所以敌机一来就对准军区司令部和政治部的两座院子狂轰滥炸。
敌机临空时，聂荣臻不得不中断了正在召开的作战会议，在警卫班的护卫下，和参谋长、作战科长等人冲向司令部后院的交通壕和防空洞。那儿最大的一个洞，是警卫班特地为聂荣臻等军区领导人挖的。
① 1938年2月11日，朱德、彭德怀致周恩来、叶剑英转蒋介石电。
①即聂荣臻、杨成武、邓华、周建屏、刘道生、陈漫远、王平。
②见北京军区历史档案第9册，第3页。
幸亏聂荣臻有先见之明，一到阜平就通知机关、部队赶挖防空洞和交通壕，否则这回空袭恐怕要伤亡惨重了。但是，机关和直属队还是牺牲了几位忠于职守的人员。这是军区成立以来机关第一次遭受损失，聂荣臻心情十分沉痛。
3月8日凌晨，侦察员报告：日军已经到了距阜平20多里外的王快镇，有数千人，还有骑兵配合，正向阜平扑来。聂荣臻和几位负责人稍作研究，即令军区机关和边区政府乘当时天还未亮，火速向五台方向转移。当天，他们强行军到了龙泉关，第二天便回到军区的诞生地五台山。军区司令部的新址选在五台山南坡下的金刚库。
这次在阜平地区的反击战只进行了7天。按照聂荣臻原定的部署，待敌深入后，军区各支队及游击队在敌之侧后及交通线上猛烈袭击。敌后方损失颇重，首尾不能兼顾，极感恐慌，遂于10日开始撤退。退却中因受八路军袭击，不敢稍停，行动慎重，极力夺占路旁高地，并在重要村庄构筑工事，队伍分三四路跑步退却，恐中埋伏，后面的掩护队更是不断盲目射击为自己壮胆。敌人让汽车守候在曲阳、完县、唐县各地，退却部队一到，立即登车驰奔。阜平之敌亦于10日夜间慌忙退却60公里，登车后复以骑兵掩护而去。
八路军缴获手榴弹、子弹数十箱。
4月下旬，大批日军再次沿津浦路南下，会攻徐州。聂荣臻得知平汉路北段各点的日军向北平集中，估计也是为了转向津浦路，去参加徐州之战的。
为钳制日军，支援国民党军正面战场，他作出了第二次破击平汉路北段的部署：令第一军分区部队破袭保定以北平汉路；第三军分区部队袭击保定，破坏保定以南铁路；冀中部队和各地方部队配合这次破袭行动。自4月28日至5月14日，各部队出色地完成了任务，连续破坏铁路170多里，使平汉线3天不能通车。攻占涞水的部队沿平汉线向北推进，争取了2400多名伪军反正，扩大了八路军在这一地区的影响。进攻保定的部队，两次夜袭，一度攻入保定南关，引起日军恐慌。聂荣臻对这次行动是满意的，在总结此役时说：“致令敌人不得不以大的兵力增援到保定、定县、石家庄一带，以维持其交通，我则达到了钳制大量敌军之目的。”①两个月以后，抗战一周年纪念日到了。早在6月20日，根据总部关于纪念抗战一周年，向敌进攻与示威的命令，聂荣臻发布了《电令军区各部向敌进攻的部署》。部署规定：第一、第二军分区在一二○师一部配合下破击平绥路，以第五支队逼近北平，袭击平西；第三军分区与冀中部队配合“破坏新乐至保定之交通外，主要的是向保定之敌进攻”；以第四军分区为主破击正太路。按照部署，晋察冀军区各部于7月6日深夜至8日，采取了协调一致的突然袭击行动。
聂荣臻指挥作战有个信条，就是一旦下了决心，就决不动摇，但同时又放手让下属各级指挥员，按前线实际情况，机断行事。因此“七·七”这一天，尽管前方战况激烈，弹火纷飞，他却泰然地在军区司令部所在地金刚库，出席了在古佛寺召开的“边区各界纪念抗战一周年暨追悼阵亡将士大会”。
正当他在台上讲话，号召向阵亡将士学习，将抗战进行到底之时，突然下起了雨， 2000多人的会场顿时有些混乱，坐在两边的自卫队员、妇救会员和儿童团员们纷纷跑到场边上的房屋里避雨，只有坐在正中的部队岿然不动。
①《聂荣臻军事文逊，解放军出版社1992年7月第1版，第70页。
聂荣臻原来站在搭着席子和篷布的台上，是淋不到雨的，此时他干脆跳到台下，并且将军帽扯下来抓在手里，在雨中继续发表慷慨激昂、振奋人心的演讲。于是，避雨的人们陆续又走回会场，“誓死抗战到底”的口号声此起彼伏，夏日的豪雨也成了誓师抗日的鼓点。
7月7日、8日两天，军区司令部作战室电话铃声不断，捷报频传。第一、第二军分区报告：7日凌晨3时，第五支队按计划突然袭击了北平西北郊的石景山发电厂，用手榴弹和炸药炸毁了石景山发电厂的两座大锅炉和一个火车头，使北平城内断电，一片漆黑，日军紧闭四门不敢出战，直到天亮才派兵出城，我军与之激战，又歼敌不少；一部攻入北水泉敌坚固堡垒，激战至天明始退出战斗；一部占领桃花堡；一部在广灵、西合营、暖泉一线与敌激战，击毁汽车10余辆，缴获极多；一部在九宫口等地与敌步、炮兵激战，将敌击溃。
平汉线方面，八路军袭击易县县城并占领大部，两天后方退至城外，破坏了附近的铁路线，缴获极多。另一路袭击保定，将南、北两关占领。保定至定县间的一段铁路被拆毁，敌军车一列出轨，车头被炸毁。徐水、满城也遭到八路军袭击， 90多名伪军连同他们的大队长，一齐被俘。
正太线方面，八路军一部曾袭占平山县城北门。一部在正定附近诱敌出城，予以伏击，敌惨败而归。八路军一部还攻入新乐及长寿车站。
3天中，来自四面八方的捷报，使聂荣臻感到振奋。唐延杰向他报告，这次出击，共歼敌1400多人，俘伪军130多人，缴获各种枪300余支（挺），还有大量的军需物品。聂荣臻高兴地说，看来这次我们取得了预定的结果。
晋察冀军区三次大规模出击平汉、平绥等敌后交通线，以及宋邓纵队挺进冀东，使日军感到极大的威胁。北平敌伪《正报》在10月16日的通讯中这样写道：“数月来中国共产匪军，即所谓朱德麾下之第八路军，乘日军大举围攻武汉之际，肆意猖獗于晋北、察南、冀东诸地??惟查彼等匪军之总巢穴，乃在山西省北部高峰之五台山附近，上述各地皆属支蔓。不图近日益居心不逞，意图扰乱内长城线，威胁京师，日军坐视不忍，遂决心分兵围剿，开始犁庭扫穴工作。”