在击退国民党顽固派的进攻后，朱德仍坚持以抗日的民族大义为重。他根据中共中央的指示，注意掌握分寸，在军事反击中适可而止，及时主动后撤，作出适当让步，以争取国内和平，为下一步谈判打开大门，使顽固派知难而退，并争取中间分子同情，从而继续维持抗日民族统一战线，继续团结抗日。
但当时有些干部并不完全了解这场反磨擦斗争的性质和方针，只是沉浸于军事斗争胜利的兴奋中，想给对方以更大打击。朱德及时提醒大家：要“防止单纯军事观点、图快一时的盲目行动。”①还有些干部误认为国共双方在河北打起来是一种决裂，并认为将从小决裂发展到大决裂。针对这种不正确的认识，中共中央和八路军总部明确宣布：坚持国共长期合作抗日的方针不变。
局势确实比较复杂。如果不是全局在胸，不是善于透过现象看本质，很容易被当时国民党顽固派那种剑拔弯张的紧张气氛所迷惑；从而作出过分的反应。在朱怀冰部被击败后，蒋介石下令胡宗南把第九十军调到晋西，命令庞炳勋、范汉杰、刘勘、陈铁各部主力集中到太南周围，还准备再增调六个师渡河北上，摆出一副准备大打的架势。②但他也知道已不可能再从八路军手中把已经建立起来的河北敌后抗日根据地夺过来了，因此下令：“冀察战区鹿忠司令所属庞炳勋军、石友三军、朱怀冰军、孙殿英军、孙良诚游击队，河北民军乔明札部及其他游击队、地方团队等着概归第一战区司令长官卫立煌统一指挥。”③这实际上是被迫撤销了原有的冀察战区。
朱德看清了蒋介石的意图，尽管形势诡谲变幻，险象环生；但他胸有成竹，沉着应付，始终把主动权掌握在自己手中。
在这种形势下，卫立煌的处境却非常困难。他是蒋介石的部下，又是朱德的挚友。当国民党顽固派军队同八路军打起来以后，他非常焦急和为难。
他致电朱德，希望适可而止，通过谈判来解决问题。他这个意见符合中共中央和八路军总部对反磨擦斗争的方针，因为进行这样的反磨擦斗争本来是不得已的，中共和八路军方面决不希望抗日民族统一战线破裂。在接到卫立煌来电后，朱德就下令部队停止追击，适当后撤，准备谈判。但是，蒋介石仍一再命令卫立煌调兵向八路军进攻，并要他去重庆汇报。这使卫立煌焦虑异常。一九四○年三月十四日，他匆匆从洛阳北上渡过黄河来到山西晋城，表面上是前来部署向八路军进攻事宜，实际上却是希望同朱德会晤。④他在离开洛阳时，曾向驻当地的八路军办事处负责人表示希望同朱彭会谈。⑤中共中央书记处接到报告后，致电前方，表示：“朱德同志应即赴晋城与卫立煌会见”，并提出了谈判要点，除重申团结愿望、划分作战区域等外，还提出八路军增饷、扩编等要求。⑥由于八路军主动后撤，双方在实际上已停止军事冲突；但是，相邻驻军之间的对立情绪仍很严重，仍发生一些小的磨擦。日本侵略军借此挑拨国共关系，在长治城内贴满了“中日联合起来铲除八路”的标语。⑦他们还乘机对抗日根据地加紧“扫荡”。形势的紧张，使朱德暂时无法抽身前去同卫立煌会面。而由于晋城受到日军攻击，卫立煌也不得不回到洛阳。
卫立煌在晋城时，朱德把八路军各部最近同日军作战情况和取得的胜利，给他送去了报告。卫将这些转报蒋介石，还报告了八路军主动后撤等情况。但是，军统特务头子戴笠这时却向蒋介石转送了晋城华北战地服务督导团一个叫郭鸿群的反动分子的报告，说：“现第十八集团军及决死队、牺盟会等又乘中央军调动之时，攫取地方政权，强行共产主义”，丝毫不提八路军与日军艰苦作战的情况。⑧这两个报告反映了对抗日和磨擦问题的两种不同态度。
卫立煌还派一个少将高级参议申凌霄带着他的亲笔信去找朱德，但从晋城到八路军总部需要经过日军的封锁线，交通很是不便。申凌霄在四月十六日才到达八路军总部。两天后，战地党政委员会冀察战区分会⑨副主任委员王藻真一行也来到八路军总部，目的也是为了商讨国内和平，共同抗日的问题。这时，中共中央准备尽早召开中共第七次代表大会，毛泽东等一再致电前方，希望朱德早日回延安。⑩朱德安排好前方工作后，准备南下。他决定先去洛阳会见卫立煌，然后经西安转回延安，再去重庆。申凌霄见到朱德面交卫立煌信件后，先回去复命。朱德和王藻真一行同去洛阳，随行的有康克清及总部供给部政委周文龙等人。主权抽调了一个较强的连队作为护送朱德去洛阳的随行卫队。
朱德这次南行，很快引起各方的瞩目。中共中央期望他同卫立煌的谈判不仅能解决划分防区、停止军事冲突，继续团结抗日的问题，还能解决八路军的扩编、增的问题。蒋介石希望朱德在谈判中能再作让步，并要求朱德在洛阳会谈后经西安去重庆向他“述职”。卫立煌更盼望朱德前去，商量解决军事冲突和共同抗日的问题。日本侵略者则希望朱德同卫立煌的谈判失败。
八路军各部都担心朱德此行的安全，因为南下途中要经过日军的封锁线和某些对八路军对立情绪仍很严重的国民党军队的防区。但朱德却从容沉着地对待这一切。出发前，他先去潞城北村一二九师师部同刘伯承等研究工作。四月二十五日，等王藻真一行来到北村后，就一起出发，前去洛阳。
朱德他们在四月二十六日到达壶关附近的龙溪镇宿营时，恰逢该地驻军一二九师暂编新一旅旅长韦杰结婚，朱德参加了他们的婚礼。韦杰曾担任过八路军总部特务团团长，朱德很了解他。在婚礼上，朱德风趣他讲了些祝贺喜庆的话，接着就讲到坚持抗日民族统一战线问题。他说：范汉杰、孙殿英等国民党军队就在你们周围，要加强统一战线工作。同他们交往中注意又联合、又斗争，决不先打第一枪。(11)当他了解到韦杰前几天曾截击一部日军、缴获甚多后，很高兴，要了一些战利品，准备带到洛阳去送人，使他们了解八路军抗日的实际情况。
四月二十六日，他们经过新一旅同国民党第二十六军第四十六师防区的交接地带。前不久这一带曾被日军侵占，这时已被打退，国共双方军队在这里也曾发生过一些小的冲突。知道朱德一行要来，二十六军军长范汉杰派队前来迎接。二十八日，他们到达范汉杰驻地附近宿营，随行卫队加强了警戒，再前进就需通过日军的封锁线。二十九日，为了探清前进路线并和范汉杰商谈解决新一旅同范部冲突的问题，他们曾停留一天。三十日，范汉杰加派一个连护送。
五月一日，朱德一行到达第四十六军军长李家钰的司令部。李家镊在东路军时期，曾接受过朱德的指挥。二日，因为天雨，又停留一天。朱德利用这个机会向李家任介绍了晋东南的敌情，谈了团结抗日的必要性。由于他态度诚恳，讲得有理有据，收到较好的效果。三日，李家钰也派一连步兵护送。
五月四臼，又要通过日军封锁线，由第九军派人前来迎接。当朱德一行正准备越过封锁线时，日军忽然发来炮弹五、六十发，因此到黄昏后才重新前进。当夜十时通过博（爱）晋（城）公路晋庙铺的封锁线。这里离日军驻地不过五六里路，白天还有二百多日军曾停留在此。过封锁线后，由当地群众作向导，走小路西行。一路上，经过高山峻岭、浅溪深谷。月色昏暗，只有星光稀微，隐约照人。凌晨到达马街，第九军一个营在这里迎候。五日，抵达河南济源县，夜宿在该县刘坪，这里已是太行山的尽头，到了黄河边上。
第二天朱德就要离开这座血战近三年的山脉了。他不由得心潮起伏，思绪万千，赋诗抒怀。那首著名的七绝《出大行》就是这时写的：“群峰壁立太行头，天险黄河一望收。
两岸烽烟红似火，
此行当可慰同仇。”
诗前题道：“一九四○年五月，经洛阳去重庆谈判，中途返延安。是时抗战紧急，内战又起，国人皆忧。”
五月六日，朱德一行离开太行，七日，渡过黄河，卫立煌派人到码头迎接。下午六时许到达洛阳。卫立煌早就盼望朱德前来。为了便于交谈，他把朱德和康克清安排在自己的驻地住宿，其他随行人员住在第九军军部。当时洛阳的情况很复杂，既有大批国民党特务在活动，又有不少在反磨擦斗争中吃了败仗而又不甘心的顽固派头面人物，他们企图为难甚至加害朱德。但是，卫立煌是当地最高军事长官并兼河南省政府主席。他对朱德热情接待，使这些人不敢轻举妄动。
刚到洛阳，朱德在卫立煌为他举行的欢迎会上致词，强调国共两党和全国军队团结的重要性。指出：全国人民需要这种团结，国民党的大多数党员需要这种团结，共产党、八路军坚决要求这种团结。只有日寇、汪精卫等汉好、投降分子和磨擦专家害怕这种团结。这种团结必须建立在进步的基础上。
只有这样，才能克服困难，争取抗战的最后胜利。朱德在洛阳期间，卫立煌天天开招待晚会，豫剧著名演员陈素真、常香玉等都曾在晚会上演出过。膳食都很丰盛。朱德回到延安后，在向中共中央书记处报告工作时，强调了团结中间分子的重要性。他说：洛阳是国民党特务机关集中的地方，但因为有卫立煌这个中间力量在，情况比西安还要好些。毛泽东非常赞同朱德的这个意见。
卫立煌和朱德的会谈，气氛很融洽，朱德提出的要求，卫立煌几乎都表示支持和同情，但有些事情他作不了主。在他们交谈过程中，国民党政府的参谋总长何应钦致电卫立煌，提出种种限制陕甘宁边区活动和八路军发展的意见。朱德把这一情况报告了毛泽东等，指出：这是国民党方面“已经提过的问题，是讨价还价，毫无诚意，难得结果。在华北他们利用中间力量来磨擦”；“我们只有同卫（立煌）弄好关系，注意实际配合，加强争取，同时忠告卫，我们决不与他争。”(12)卫立煌本来还准备向胡宗南就陕甘宁边区问题作些调解。但蒋介石知道后，立刻电卫说：“这个事你不用管。”(13)事实已经表明：尽管朱德在洛阳的谈判比较顺利，但如果到重庆去谈判势必会旷、日持久地拖下去，不容易得到结果。这时，到苏联去治病的周恩来已回到延安，他对同蒋介石谈判有着丰富的经验，又是中共驻重庆的代表团团长和南方局书记，可以较长期地留在那里。因此，中共中央决定，由周恩来去重庆同蒋介石谈判，朱德同卫立煌谈判后就回延安，不再到重庆去见蒋介石。
在朱德一行去洛阳的过程中，随行的卫队中有人在晋城和洛阳都发现有过去决死队、八路军的战士在国民党军队中当兵，还有一些人被关押在那里。
这些人都是在上一年冬晋西事变和河北磨擦事件中被抓去的。朱德把这个问题向卫立煌提出后，第二天，卫立煌就下令把这些人全部释放，一共一百多人。由周文龙在洛阳领取军响后，把这些人带回八路军总部，重新分配工作(14)。
五月十六日上午，战地党政委员会冀察分会的委员们来看朱德。朱德同他们谈话时，回答了他们提出的不少问题。
在回答最近华北敌人的企图和我们应有的对策时，朱德指出：华北敌军不包括伪军在内约有五六十万人，正在加紧修筑堡垒；公路和铁路，同时不断“扫荡”抗日根据地；但八路军、游击队也很活跃，力量相当强大，冀东、平西、门头沟、西山也都是我们的活动地区。现在敌人把利诱和威胁配合起来，除用武力外，还采取以华制华、以战养战的方针。我们的对策就是巩固和发展联合各党、各派、各阶层人民的抗日民族统一战线。
在谈到河北灾情和八路军对放赈的意见时，朱德介绍了河北各地遭受的兵灾、水灾、旱灾、虫灾的严重情况。指出，根据地军民正在依靠自己，克服灾荒造成的困难。他说：河北同胞听说中央要放赈，就往大后方打电报呼吁，望眼欲穿；可是直到现在还得不到实惠。最近平原地区正在修堤，要化八百万元，希望用以工代赈的方法完成这项工程，这样下半年河北的河水就不致再决口了。
在回答国共两党如何才能亲密合作时，朱德说：我们共产党当前是为民族解放而奋斗，并没有自己的私利。凡是有共产党的地方，抗战就热烈；抗战热烈的地方，共产党的力量就大。可是，有的人对抗战的兴趣不大，却积极限共、防共、反共，限制八路军发展，不断制造磨擦，甚至利用汉好队伍来反共。长此下去，国就要亡了。只有解决这些问题，取消妨碍抗战的东西，国共两党才能亲密合作，共同抗日，否则是没有出路的。(15)第二天，朱德结束了在洛阳的会谈，乘火车经撞关去西安。他到达西安时，早几天从延安来西安的周恩来到车站去迎接。自从中共六届六中全会结束以后，他们快有两年没有见面了。这次周恩来将要代替朱德去重庆同蒋介石谈判，两人深入地交流了情况和意见。
当时西安是联接前方、重庆和延安的枢纽，南往北来的干部常常在这里相会。西安七贤庄没有八路军办事处。它虽是经过国民党当局同意设立的合法机关，但国民党特务机关在它周围安插了二十多个监视点，有时还秘密绑架办事处的工作人员和来访人员。朱德来到这里后，教育工作人员要提高革命警惕性，保持革命气节，准备对付一切可能出现的突然事变，鼓励大家学会有理、有利、有节的斗争艺术，还提出了一套对付特务监视、跟踪的办法。
当他了解到交通科有一位姓贾的战士被国民党特务秘密绑走后，就亲自出面交涉，迫使特务机关把人交了回来。由于日本飞机常来轰炸西安，办事处在北郊范家村附近挖了几孔窑洞，朱德。周恩来等就在那里开会。
这时，又有一批准备去延安的干部、进步人士和青年，因被国民党当局阻拦而滞留在西安，其中有著名文学家茅盾和理论家张仲实。他们意外地在八路军办事处见到朱德和周恩来。茅盾早就认识周恩来，同朱德却是第一次见面。他对朱德的第一个印象是：“一位话语不多的敦厚长者。”周恩来说：“你们不论是去参观还是去工作，我们都欢迎。正巧有个好机会，总司令过几天要回延安，你们可以同他一道走，这样路上的安全也有了保证。”“现在去延安不象三七、三八年那样容易了。不过，你们这次搭总司令的车队去延安，国民党的特务机关是不敢为难的。”(16)朱德、周恩来还向他们介绍了当前的局势。
在西安期间，朱德拜会了陕西省政府主席蒋鼎文、第三十四集团军总司令胡宗南和国民政府军事委员会西安办公厅副主任兼政治部主任、军事委员会西北青年劳动营主任谷正鼎等。
五月二十四日，朱德一行离开西安回延安。为了把一批要去延安而滞留在西安的进步人士和青年带走，把一批国民党当局禁运而延安又急需的通讯器材也带去，朱德不坐小汽车而坐大卡车。他们一行由三辆卡车组成车队，共有四五十人，大多穿了军装，充作朱德的随从。朱德是第二战区副司令长官、第十八集团军总司令，他坐在第一辆卡车的司机旁边，国民党特务不敢盘查和阻拦。
上午八时，车队出发。傍晚歇宿在铜川。朱德和茅盾的住处相近。晚饭后，朱德前去拜访茅盾，他们侃侃而谈的话题是杜甫和白居易。闲谈中，茅盾发现“这位名震中外的将军有很高的文学素养。”(17)第二天下午一时许，经过中部县时，根据朱德的提议，前去拜谒黄帝陵。车队停在桥山脚下，大家拾级而上，来到陵前。驻守黄陵的卫兵说，这里是国防重地，奉令不让参观。但黄陵管理处的负责人看到是第十八集团军总司令前来，就特别通融，陪同参观。朱德请茅盾向大家讲讲黄帝的故事。茅盾记载当时情况说：“总司令接着讲话。他很幽默他说，刚寸沈先生(18)讲了历史上的黄帝，现在我再讲讲当代的黄帝——我们这些黄帝的裔胄。中华民族有五千年光辉的历史，然而近百年来我们这个民族却遭受了帝国主义的百般欺凌，被称作‘东亚病夫，。
现在这个古老的民族觉醒了，我们这些黄帝的子孙点燃了民族解放的烽火，全国人民正进行着神圣的抗日战争。抗日战争就是中华民族复兴的战争。
我们一定要把这场战争进行到底，我们也一定能取得战争的最后胜利！现在有人想阻挠抗日战争的胜利进行，想妥协投降，这种人是黄帝的不肖子孙！
总司令的话不长，却极富煽动力，我才发现总司令还有很好的演说才能。”(19)当天下午四时左右，车队通过最后一道国民党军队的关卡，进入陕甘宁边区。
朱德在华北前线和敌后那样复杂的环境中指挥八路军坚持抗战，已将近三年了。他们在敌后广泛发动民众，光复了大片国土，建立起晋察冀、冀中、冀南、平西、晋冀豫、晋西北、冀鲁豫、鲁西北、鲁南、大青山等抗日根据地，创立抗日民主政权，广泛发展游击战争，抑留了侵华日军的大量兵力，使他们无法开发并利用华北的丰富资源，大大提高了全国人民坚持抗战的信心和决心。八路军自身也从原来的三个师发展到有正规部队二十二万人（游击队还没有计算在内），在全国人民中具有巨大的威望。这一切自然同朱德、彭德怀对八路军的领导是分不开的。
五月二十六日，朱德一行回到延安，受到延安干部和军队、民众的热烈欢迎。本来决定在第二大开欢迎晚会，但是，听说朱总司令回来了，许多机关、学校群众自动整队来到南门外操场上，只好临时决定当天先在这里举行一次欢迎大会。朱德应邀在会上讲话，他说：华北广大的抗日根据地已经建立起来，这奠定了华北抗战胜利的基矗尽管敌人“扫荡”、破坏，顽固分子制造磨擦，可是华北广大人民已把自己组织成伟大的独立的力量，他们不但不会消灭，而且将日趋坚强。(20)茅盾等也参加了这次欢迎大会。他们第一次看到这样热烈而质朴的场面，很受感动。
第二夭，延安各界又在中央大礼堂举行欢迎晚会，毛泽东也参加了，鲁艺的二百多师生演出了洗星海创作的《黄河大合唱》。在欢迎会上，朱德兴奋地告诉大家：“今天，坚持华北抗战已以八路和一切进步的力量为主力了。
因此，华北的前途是光明的。”(21)
前方的同志，包括朱德本人没有想到他这次回延安后，中共中央让他留下来协助毛泽东清理党内路线是非和指挥全国各抗日根据地的斗争，没有再回华北前线，直到抗日战争胜利结束。