陈毅领导的部队，在镇江、句容、丹阳、金坛之间，运用灵活机动游击战术，分散穿插转移，乘虚袭击敌人，在9至12月的4个月内，先后粉碎敌人大小“扫荡”20余次。
第3支队在1938年7月1日进入皖南抗日前线，活动于东至芜湖、宣城，西至青阳、大通镇，南起章家渡，北至长江的横宽百余公里，纵深60公里的狭长地带。第3支队以机动防御方式与敌周旋，多次歼灭日伪军。
高敬亭的第4支队在舒城、桐城、庐江、无为地区展开游击活动，多次伏击敌人。在桐城附近之范家岗、棋盘岭伏击战中，击毙日军70余人，毁汽车50余辆。在攻克无为、庐江的战斗中，肃清当地反动土顽武装3000余人。
第4支队第8团于1938年11月进入淮南路以东地区，与地方党组织领导的游击队和党掌握的东北军挺进团取得联系，这两支部队在皖东开展敌后游击战争。
张云逸率领军部特务营过江后到达无为地区，将当地党组织领导的一部分游击队和人民自卫军统一整编为新四军江北游击队，以孙仲德为司令员，黄岩为政委。这支部队在皖中开展游击活动。
中共河南省委武装部长彭雪枫率新四军游击队300余人挺进豫东，途中与第3支队一部及先遣大队合编，扩大为3个大队，1021人，彭雪枫任司令员兼政委，吴芝圃任副司令员。游击支队东渡黄河，进入鹿邑境内，尔后开创位于津浦铁路、陇海铁路、新黄河及淮河之间，包括豫东13县、皖北8县和苏北3县的豫皖苏边根据地。至1939年11月，游击支队发展到9个团，1．2万人，改编为新四军第6支队。
1939年2月，新四军根据中共中央指示，制定了向南巩固，向东作战，向北发展的战略方针。11月将第1、第2支队合并，成立新四军江南指挥部。陈毅任指挥，粟裕任副指挥，统一领导苏南部队；江北的新四军部队成立新四军江北指挥部，张云逸任指挥，徐海东任副指挥，赖传珠任参谋长，邓子恢任政治部主任。徐海东兼任第4支队司令员；另以第8团为基础，成立新四军第5支队，由罗炳辉任司令员，郭述申任政委。第4、第5支队发展到1万人，在淮南地区和以半塔集为中心开辟津浦路东根据地并很快打开了皖东的抗战局面。
中原局在1939年春先后派李先念、陈少敏各率一支武装和一批干部，向豫鄂边区敌后挺进，联络各地党的组织和党领导的抗日武装，创建了信阳四望山抗日根据地。并成立了新四军豫鄂独立游击队，由李先念任司令员，陈少敏任政委。至1940年夏，独立游击队对日伪军作战280余次，歼敌1．4余万人，创建了鄂中、鄂东和豫南抗日根据地，游击武装力量发展到1．5万人，并拥有民兵近10万人。成立了豫鄂边区军政委员会，朱理治任书记，统一领导豫鄂边区的党政军民工作。
中共中央、中央军委作出将华北、华中打成一片的战略部署，巩固华北，发展华中、华南，确定八路军、新四军的战略任务是粉碎日军扫荡，坚持游击战争。中共中央决定撤销长江局，成立南方局，由周恩来任书记，领导长江以南党的工作和国民党大后方的统战工作；另组中原局，由刘少奇任书记，领导长江以北华中地区的抗日斗争；将东南分局改为东南局，仍由项英任书记，继续领导新四军军部和苏南、皖南的抗日斗争。
中共在广东东江地区、珠江三角洲和海南岛等地开辟了华南抗日根据地，给日军以有力的打击。
从1937年11月至1938年4月，八路军在华北共进行大小战斗400余次，毙伤敌人1万余人，缴获步枪3000余枝，轻重机枪100余挺，毁敌汽车500余辆。1938年5至10月，同敌战斗约1000余次，毙伤敌人2万多，缴获步马枪8000余枝，轻重机枪150挺，毁汽车800余辆。至1938年10月，共产党的部队已发展到25万人。到1939年，八路军、新四军已发展到50多万人，共产党员发展到80万人，民兵发展到100万人。
八路军、新四军和共产党领导的抗日游击区迅速发展。蒋介石恐慌起来，他在日记中写道：“军事如常，无变化，惟共产党作祟，为可恨耳！”
1939年1月，国民党召开五届五中全会，蒋介石将其政策转到反共反人民方面。他作了题为《唤醒党魂发扬党德与巩固党基》的报告和题为《整理党务之要点》的讲话。全会的主要议题是“整理党务”，研究“如何与共产党作积极之斗争”。全会确定了“防共、限共、溶共”的方针，设立了“防共委员会”。
1939年5月7日，蒋介石在中央训练团党政班上作了《三民主义之体系及其实行程序》的讲演。他否定了民主主义、共产主义和法西斯主义，认为唯有三民主义“博大精深”，“能涵盖一切”，“无丝毫偏颇之弊”，最“充满无缺的革命建国的最高指挥原则”。蒋介石制定了“三民主义之体系及其实行程序表”，其核心是主张由国民党一党独裁。他说：“一切要由党来负责。所谓‘以党治国’、‘以党建国’，其意义即是以党来管理一切，由党来负起责任。”
蒋介石指使胡宗南率部向陕甘宁边区进攻，妄图扼杀共产党的抗日武装力量。在东起黄河，西至甘肃的西峰镇长达700余里，构筑了纵深堡垒群。用陆空军配合，占领了淳化、栒邕、正宁、宁县、镇原五座县城，并集结部队，准备进犯延安。朱德、彭德怀等通电全国，反对枪口对内进攻边区。
在山东，顽固派响应蒋介石号召，叫嚣说“宁亡于日，勿亡于共”，对八路军实行“见人就捉，见枪就下，见干部就杀”的手段，端的厉害。山东的国民党顽固派，一是沈鸿烈，二是秦启荣。沈鸿烈是蒋介石任命的山东省政府主席。沈提出的口号是“反共第一，抗日第二”“日可以不抗，共不可不打！”秦启荣是国民党别动纵队第5纵队司令。1939年3月下旬，沈鸿烈唆使秦启荣指挥所部王尚志3000余人，于博（山）益（都）边之太河镇，伏击我山东纵队第3支队过路的干部和掩护部队，杀害我支队政治部主任鲍辉、团长潘建军等以下指战员400余人，造成“博山惨案”。8月上旬，秦启荣在莱芜的雪野地方，乘我第4支队在泰莱公路出击敌人之机，指挥顽军向我后方合击，造成“雪野事件”。8月中旬，在淄河流域又发生围攻我第3、第4支队10余天的“淄河事件”。仅在6至12月，山东顽军向我山东纵队所属部队进攻90余次，杀我军民1350余人，扣押干部、战士近1000人。
在忍无可忍的情况下，山东纵队在鲁中淄河流域组织了反顽战役。经过几天的连续反击作战，解放了淄川、博山以东之峨庄、太河、朱崖等地，把秦启荣部击溃，其残部逃至张（店）博（山）路以西去了。东北车第111师，不满国民党政府反共、投降政策，光荣起义转为人民武装。
毛泽东同新闻记者谈话说：“张荫梧、秦启荣是两位摩擦专家，张荫梧在河北，泰启荣在山东，简直是无法无天，和汉奸的行为很少区别。”
蒋介石委任反共专家张荫梧为河北省保安司令。张密令冀中民军的3个团长把部队拉走，袭击冀中军区特务营，还将民军中思想进步、坚持抗日的警卫营包围缴械。尔后，把主张抗日的张仲瀚司令排挤出民军。张仲瀚便参加了八路军。张荫梧以国民党河北省政府名义，委派他的老乡、旧友张存实为民军司令。殊不知张存实已是中共地下党员，他就任民军司令后，便把这支部队改造为八路军，少数顽固分子偷偷率部下去投靠张荫梧。
张荫梧命他的副司令率3000多人，进攻安国、博野、蠡县等地区，结果全被八路军俘获。1939年6月，张荫梧乘日军“扫荡”之机，亲自带领3000余人，偷袭深县八路军的后方机关。因八路军主力正在同日军作战，后方空虚。张荫梧连夜将后方机关包围，惨杀八路军官兵400余人，造成骇人听闻的“深县事件”。吕正操率部奋起反击，经过一天激战，除毙伤外，俘获张部旅长以下2000余人，张荫梧只率10余人逃窜。
一波未平，一波又起。国民党第十二集团军特务营包围了新四军在湖南平江的通讯处，打死通讯处主任涂正坤，活理八路军少校副官罗梓铭等人，造成平江惨案。延安各界人士举行集会，抗议国民党当局惨杀我官兵，为平江惨案被难烈士举行追悼大会。
八路军的总部在太行山。蒋介石派河北省主席鹿钟麟向八路军“收复失地”。鹿钟麟和河北省政府机关进驻南宫，在冀南掀起“摩擦”和反“摩擦”的斗争。1938年10月底，鹿钟麟以南宫县长赵鼎新纪念“双十节”大会迟到和写工作报告不合格式以及对他不尊重为由，撤销赵鼎新县长职务，同时，另外委任了一批专员、县长、区长，致使冀南出现了双专员、双县长、双区长的混乱局面。不久，日寇对冀南进行“扫荡”，南宫失守。鹿钟麟等人仓皇逃往枣强。徐向前率部对日寇反“扫荡”，日军放弃南宫。鹿钟麟抢先返回，宣布撤销冀南行政主任公署。徐向前以巧妙的方法回击，派一营兵力以“保护”鹿主席为名义进驻南宫，保卫我冀南行政主任公署。鹿钟麟对此无可奈何。
鹿钟麟与山东沈鸿烈串通一气，合作反共，妄图把八路军挤出冀南。鲁西北的聊城县有一支武装，县长范筑先是山东省第6区督察专员兼保安司令，他的部队有30多个支队，号称铁军。鹿钟麟、沈鸿烈要把这支武装改编为与八路军对抗的队伍。其实，徐向前早就做了联合范筑先的工作，鹿、沈终未得逞。
国民党军中也有不赞成搞“摩擦”的，于是出现了微妙的事情。
1939年11月，彭德怀准备从延安去太行山八路军总部去，毛泽东同他彻夜长谈，要他对国民党军的磨擦，有理、有节、有威，多一分则太过，少一分则太弱，太极柔韧，柔中藏刚，充分展示优秀的东方智慧。
彭德怀告别毛泽东去太行山。这位性格耿直的将军乘坐大卡车行驶，寒风萧索，天和地显出亘古如斯的苍凉。遥远的地方似乎有隐隐的炮声。大卡车轰轰隆隆地向前开，颠簸得很厉害。车至三原，前面忽然爆出一声断喝：“停车！”
车煞住了，见路上有两名特务举着手枪拦住去路。问他们是干什么的，那两个特务说：“要检查，要搜车。”
彭德怀的警卫说：“这是十八集团军司令部的车。”
“管你什么车，就是要检查！”
“车上是十八集团军彭德怀副司令！”
“就是要查，不给查就扣车！”
彭德怀大怒：“你们想干哈！是谁的命令要查我的车？是蒋委员长还是程潜主任？”
特务还想耍横，彭德怀大吼一声：“给我抓起来！”
警卫们立即跳下车，下了两个特务的枪。两个特务这才慌了手脚，面色如土，以为必死无疑。
彭德怀说：“我不枪毙你们，我要当面把你们交给程潜主任，问问到底是谁命令你们要查我的车的。”
特务求饶说：“我们有眼无珠，求彭副司令放了我们。”
彭德怀命令：“开车！”
车到西安八路军驻西安办事处，林伯渠出来迎接彭德怀，见抓了两个特务，忙问：“这是怎么回事？”
彭道：“这是我准备送行辕主任程潜的礼物。”
林伯渠问明缘由，道：“把这两个人交给程潜，事情闹出去，若蒋介石知道了，这样有无不妥。”
彭说：“我就是要闹出去。现在蒋介石和我们“摩擦”不断，我这一次是政治侦察，看他们到底是什么意思，到底敢不敢打内战。”
彭德怀在林伯渠的陪同下，让警卫押着两个特务，一起去见程潜。程潜见彭德怀押来两个人，大惊，问这是怎么回事？
彭德怀说：“这是我交给你的两个证人，他们要搜查我的车，我想问问这是谁的命令，是委员长的命令还是你程主任的命令？”
程潜满脸陪笑道：“彭先生多心了，这一定是误会。”
“人都抓来了，还有什么误会！问问他们，是奉了谁的命令？不说，我就把他们枪毙了。”
特务碍不过，只好照实说：“是奉了何绍南的命令。”
何绍南是绥德地区的专员，一个极为仇恨共产党和八路军的顽固分子，他在陕北一带专事袭扰八路军的勾当。
彭德怀道：“程主任，你听见了吧？现在中国有一个汪精卫投降日本当了汉奸，他是站在明处，暗处却还有无数秘密的汪精卫，这些顽固分子就是秘密的汪精卫！”
正说着，那何绍南凑巧从外面走进来。他见到彭德怀，走也不是，留也不是，十分狼狈。彭德怀眼快，道：“你何绍南站在那里干什么，过来我有话问你，你为什么命这两个特务拦我的车？你在陕北一共干了多少坏事？”
何绍南的脸红一阵白一阵，不说一句话。
程潜忙打圆场说：“彭先生息怒，现在大敌当前，大家还是以大局为重，不要闹，闹起来不得了，那会闹成鱼蚌相争渔翁得利。”
“我与你程主任的想法一样，可是这何绍南却不是这样想，他专干反共和破坏八路军的勾当。我今天来见你程主任，就是表明态度，我是主张好好团结一致抗日的，可是我也不怕顽固分子反共。”彭德怀看一眼何绍南：“今天我有话放在这里，谁要反共，他放第一枪，我放第二枪，还要放第三枪。”
程潜说：“放第三枪就不对了。”
彭德怀在临走时依然怒气难消，他指着何绍南的鼻子说：“你这个汪精卫听着，你在陕北做尽坏事，已对人民犯了罪，你再去绥德当专员，老百姓抓了你公审。”
回到八路军办事处，彭德怀对林伯渠说：“我看程潜这位国民党元老是批准我的反摩擦行动了，他说打第三枪不对，意思就是不能干得太过分了。”
林伯渠说：“程潜和卫立煌都是中间派，都不想弄得太过分，都怕内战打起来不得了。”
彭德怀的大车从西安出发来到洛阳。卫立煌非常热情地接待了他，请他吃饭，彭在酒席桌上畅抒己见。八路军（十八集团军）此时归卫立煌指挥，卫立煌劝彭德怀：“相忍为国。”
彭道：“我忍，顽固分子不忍怎么办？”
“顽固分子毕竟不是多数呀。”卫立煌见彭德怀意志坚决，请他在洛阳多停留几天，要多请他吃饭，并不断重复“相忍为国”的话。
彭德怀心中明白，忍是不错的，但如果忍过了头，太行山根据地就会被顽固分子一口口吃掉，朱怀冰、石友三等人正在虎视眈眈，大规模进攻太行山的军事行动随时可能发生。他想起毛泽东的话：“人不犯我，我不犯人，人若犯我，我必犯人。”没有一次大的反摩擦行动，局面将会继续恶化。
次日，彭德怀在卫立煌处遇到了第5军军长孙殿英。孙的部队与朱怀冰、石友三为邻，如果打朱怀冰等，孙殿英的态度是很重要的，孙是土匪出身，一身绿林气息，为人心性狡猾，思想敏捷，然而却不是顽固派。彭德怀想试探他对反“摩擦”的态度，便同他谈论起来。彭德怀说：
“大敌当前，八路军意在专心杀日寇，可后面老有人扯后腿，这样怎么抗日？而且现在有人竟打起八路军太行山根据地的主意了，孙军长有什么看法？”
孙殿英笑笑说：“你们八路军是会有办法对付的。”
彭德怀见孙殿英话中有话，进一步试探说：“我还要请你孙军长帮忙。”
孙殿英明白彭德怀的意思，道：“我按你们八路军的方针办事，人不犯我，我不犯人。”
彭德怀以目光传达谢意，孙殿英心领神会，却装作浑然不知的样子。
彭德怀离开洛阳时，卫立煌设宴饯行，一再叮咛要忍耐些，一定要相忍为国。他送彭德怀很远的路，临别时说：“你过垣曲河以后，到第10军去，军长陈铁来电话，要请你吃饭。”
彭德怀过了垣曲河，果见陈铁派来了迎接的队伍。他被迎进第10军军部，心想，我与陈铁素无交情，也没有领导和被领导关系，他这样热情可能是支持八路军的统一战线。果然不出所料，陈铁热情招待彭德怀之后，便指着地图对彭德怀说：
“彭先生，在你回去的路上，从垣曲河到阳城有15公里的隘路，悬岩绝壁，险象四伏。你此行有多少人？”彭德怀道：“警卫班加上报务、译电员，总共十几个人。”
陈铁又道：“现在空气不好，彭先生走路要小心些。”
彭德怀点头，他告别陈铁，率十几人避开隘路，专拣无人走的地方爬山。天黑了，就在山头上露宿。彭德怀没睡，在晴朗的夜空中望着太行山。到了深夜，把报务员叫醒，架起小电台向八路军总部发电，命令部队向指定的地点集中，调动7个旅，准备采取反“摩察”的军事行动。
天空微露曙色，他们立即出发，悄然无声地在险峻的山岭前进。
彭德怀回到八路军总部，即派秘使去见孙殿英，孙说：
“即便在我尾后打，我的第5军也只关心操练的事。”
彭德怀得到回话，即向7个旅的部队下达进攻命令。太行山里突然起了激战，一共打了3天，朱怀冰的两个师、侯如墉的一个旅、张荫梧的一个纵队，全被歼灭，一共除掉了顽固派的10个团。进攻太行山的顽军被扫除。
彭德怀就此止住，这便是按程潜的话说，不放第三枪。