追求高效率的马帅于整军协定签字后第二天就提议：三人军事小组赴华北。华中视察，以检查停战、恢复交通整军工作情况。
2 月28日上午，马歇尔、张治中、周恩来同乘“霸王”号专机离开重庆飞往北平西郊机场。李宗仁、熊式辉两个行营主任和军调部美、国、共三方委员罗伯森、郑介民、叶剑英都来迎接，此外，马帅的女婿、军调部执行处长白鲁德也到机场迎接他这位和平使者。
三人军事小组首先到达设立在协和医院南门的“军事调处执行部”。并听取军调部三委员的工作报告。张治中的训词好听，但调子空泛。张治中说：今日中国情况，有如兄弟失和。于此失和中，竟遇此竭诚相易之朋友，实不易得。余认为政与中共终是一家，故愿于此贡献一点意见，余觉刻下非是非问题，而是根据事实如何运用智慧设法解决之问题。
周恩来发表演说指出：目前整军基本方案之签订，将如重诸位之责，仍需要诸君监督与计划，在盟军的协助下，努力完成诸君过去之勤劳，以为今后工作建基地，故相信必可完成任务。余认为，凡事应告求诸于己，如能永伸团结之手，则问题自易解决。
马歇尔是最后讲话的，他所言内容更加鼓舞人心，马帅说：一方案之获得，在华盛顿或重庆可以谋成，而付诸实行，则殊不易。执行部在世界历史上实乃最巧妙之组织，在双方利益冲突的基础上，构成如此庞大之执行机构，然而都能目的一致，顺利工作，可见对世界和平之贡献殊大。整军方案之签字，且将付诸实行，实有赖于各小组传达命令与监督执行。余相信以诸君已有经验与合作互尊之精神，必可圆满达成任务，希望诸君为中国和平与世界之幸福，不计牺牲，将中国自落后阶级中解放出来，可立足于现代世界中。余相信前途至为乐观。余认为个人感情为局部的，不重要的，吾人将为四万万中国人民及世界幸福而努力，定不会介意于个人的情感。
傍晚，军调部在北京饭店举行战胜日本后首次盛大鸡尾酒会，招待三人军事小组。（新华日报）社特派记者周而复及其他记者也一同参加了。酒会成了记者追逐周恩来、马歇尔和张治中的记者招待会。之后，三人小组又赴东城苹华楼出席军调部举行的晚宴。
3 月1 日上午，三人军事小组飞至张家口。他们在中共晋察冀军区司令部，听取了张家口执行小组报告会，一致认为，该小组成绩很大。中午，聂荣臻司令员举行盛宴欢迎马歇尔一行。宴席上的菜肴一律是中国北方和四川名菜，例外的是备有西式刀叉和牛油果子酱。一些美国随员边吃边赞叹不已，说他们在世界许多国家吃过的饭当中，这是最美好的一顿。
马歇尔也嗜美食，但非常注意效率，不等最后一道菜上席，便站起来退席，找贺龙会谈去了。
午后，三人小组飞抵集宁，与晋绥野战军副司令员张宗逊等会面。
3 月2 日，马歇尔一行飞往济南，听取了当地国共军事首脑陈毅和王耀武报告各自部队情况和济南小组美国雷克上校的汇报。
当马歇尔发现周恩来与张治中的发言中立场相去甚远时，他施展了自己的演讲才华，指出：目前美国的困难，只是国共双方的评判员，与棒球的裁判员一样，美国政府派我来中国调解国共争端，好像干涉别人家庭闹事，做得不好，会引起批评。打棒球时，双方都不喜欢裁判，但没有裁判又打不起来。
人们恍然大悟，明白了马帅借棒球流露出自己的“苦衷”。而周恩来以其伟大政治家的敏锐眼光，看到了马帅的实质，尽管马帅口口声称自己像棒球裁判员一样抱着公正态度来调处国共关系，然而正如任何裁判员都说自己公正。而实则在偏袒一方则是时有发生的事一样，马帅在对待山东伪军的问题上采取回避的方式，实际上是暗中偏袒伪军。
正在这时，门口响起了“打到共产党”、“打倒汪精卫第二毛泽东”等口号。原来这是王耀武搞的名堂。为破坏和谈，找了一帮地主子弟、劣坤、恶霸及部分国民党员组成所谓“鲁西南十六县民众代表请愿团”，以中共不让农民还乡为由来此捣乱。
为揭露王耀武的阴谋诡计，周恩来发表了演讲：诸位的希望很清楚，就是要和平。抗战胜利后，我和张、马两将军不辞努力就是为了实现全国和平。山东在八年抗战中，在日寇的残酷统治中受尽了痛苦，我现来慰问诸位。现在的乡村和城市不应再隔绝了。城市群众需要粮食，乡村群众需要商品，我看应该实现这个要求。
周恩来的这番话，不仅使“请愿团”离开了，而且使马歇尔为之佩服。周恩来又对王耀武和陈毅说：“刚才我看到王。陈两将军握手言欢，我很高兴。两位将军的握手可以保证实现山东的和平。”周恩来最后说：“这次我们三个人来，诸位所希望的和平、民主、统一，一定要实现。”话音刚落，掌声如雷。王耀武煞费心思安排的丑剧彻底失败了。
离开济南，三人小组直飞徐州。国民党军在沿铁路线筑有许多堡垒工事，三人军事小组到来，决定凡属交通线上不需要的工事一律拆毁。枣庄煤矿共有3 口井，国民党占1 口，中共占2 口；电在国方手中，水在中共手里，双方都不能出煤，却又都需要煤。最后决定双方军队撤退，由美方担任技术方面顾问，双方共同经营。马歇尔对此十分满意。
第二天上午，三人军事小组来到平汉和道清两条铁路的交叉点新乡。
国民党军在这里违背停战令进攻孟县，但却谎称是停战令下达之前进攻的。为此，叶剑英甚至拍案怒斥了郑介民。
马歇尔此时仿佛变成了一名历史教授，他指出：“我国曾有过南北战争，但战争结束后，双方便不问是非地携手和平建国了，于是才有今天强盛的美利坚合众国。直到现在，我们也弄不清楚那次战争中的谁是谁非。”
马歇尔以讲历史故事来回避国民党军进攻孟县的事实。
此后，三人小组飞抵阎锡山王国的心脏太原。阎锡山身为一级上将，却穿着长袍马褂，留着两撇八字胡，俨然一个地主豪绅。他疏落马歇尔，讨好张治中。马帅在太原没解决什么重要问题。他私下对周恩来说：“太原，我感到是一副冷冰冰的面孔。”
3 月4 日，三人小组飞往呼和浩特，受到第十二战区司令长官傅作义的热情接待。在宴会上马歇尔吃得特别痛快，他还幽默地说：“这么好的莱，回到美国，就是碰上饥荒也不在乎。”马歇尔深知傅作义其人抗日坚决，打内战也不手软，停战今生效后，他还率部袭占集宁。对此，周恩来一针见血地说：“协定订下来后，最重要的就是完全实行。中共反对空谈，述而不作，说谎骗人。”周恩来语惊四座，博得热烈掌声。马歇尔也不由看了周恩来一眼，流露出钦佩的眼光。
1946年3 月4 日，两架飞机穿过云海，在延安上空绕行一周后，徐徐降落在延安东门外机场。这时欢呼的交织声压倒了飞机的轰鸣声。机舱门打开了，美国的和平使者马歇尔五星上将出现在人群面前。受美国总统杜鲁门的重托，为了调解国共两党的争端，马帅已经忙碌了近四个月了。他仍然在尽自己的努力，用最大的耐心斡旋于蒋介石和毛泽东之间。其基本立场是支持蒋介石国民政府的，关于这一点他使华后始终没有动摇过，但是在对待中共问题上他本着“自己活也让别人话”的态度，主张在政治上、军事上都应该给予中共以一席之地。因此，马帅在对待中共问题上比较赫尔利来说，无疑是一个进步。
毛泽东对美国人的印象一直不太好。但抗战中对主张支持中共抗战的史迪威将军却产生了较好的印象。而对于马歇尔，毛泽东的印象也比较好。还在重庆政协会议闭幕时，毛泽东就通过周恩来向马帅致谢，感谢他为促进中国国内和平所做的努力，认为他的态度和方法是公正的，表示中共愿意在这个基础上与美国政府合作。毛泽东还对美联社记者说：“马歇尔特使促成中国停止内战推进团结、和平与民主，其功殊不可没。”重庆谈判后，国内谣传毛泽东要出国去苏联养病，毛泽东特地要周恩来转告马歇尔说，如果要出国的话，他愿意先到美国去看看，因为那里有很多东西可以学习。
在延安机场上，矗立着一座红布搭起的牌楼，上端插着中美两国国旗，横匾上悬挂着用中美两种文字写成的“欢迎马歇尔、张治中、周恩来三将军！”“的横幅，两旁的巨幅红色标语上写着”国共合作万岁！“”中美合作万岁！“。机场右侧，上万欢迎群众有秩序地站着，仪仗队列队，此种隆重场面，是延安前所未有的。由周恩来介绍，马歇尔与站在前排的中共领导人毛泽东、朱德、刘少奇、彭德怀、林伯渠、徐特立等人—一握手。
马歇尔被感动了。他最大的长处是明于认人又善育英才。因为他早年担任过军校的教官。校长，他培养出来的著名将领有布莱德雷五星上将、霍奇上将、史迪威上将和李奇微中将等一大批二战名将。当他与毛泽东初次会面后，就更加坚定了他的看法：蒋介石用武力是消灭不了毛泽东的。
马歇尔在毛泽东、朱德陪同下检阅了延安卫戍司令部的仪仗队后，乘坐悬挂中美国旗的汽车到王家坪出席毛泽东举办的茶会。当汽车在上万群众面前驶过时，雷鸣般的欢呼声时起时伏。
当天下午，马帅到枣园拜会毛泽东。会谈中，马歇尔强调停火的必要性。他告诉毛泽东，他已经向蒋介石表明，如果中国不统一，美国就不能给予援助。毛泽东答应遵守停战的各项协议，并希望停战协定能引用于东北地区。马歇尔解释说：他认为，停战协定本来是可以引用到满洲的，但共方事先宣布在那里有特殊权益，对引用停战协议有怀疑。蒋介石怕引起国际纠纷，也不愿意执行小组去满洲。
晚上7 时，中共中央在杨家岭举行欢迎宴会。马歇尔、张治中、周恩来和毛泽东、朱德、刘少奇、江青同坐第一席，军调部三委员等坐第二席。宾主落座后，毛泽东起身致祝酒辞，他语调洪亮地说：大家都知道三位将军做了许多有益于中国人民的事，一句话，就是帮助中国和平、民主、团结、统一，中共也感谢各位的努力，并准备尽一切努力来实现这一目标。中美合作万岁！国共合作万岁！全国人民团结万岁！我建议为杜鲁门总统、蒋主席、马元帅、张将军和在座各位朋友健康干怀。
马歇尔在讲话中说，非常感谢这里的主人，感谢毛泽东主席及中共各位领袖的热情欢迎和盛情款待，他提议为中国人民幸福干怀！宾主酒杯相碰，欢声笑语，喜气洋溢。
马歇尔在重庆就知道毛泽东夫人是上海演员蓝苹，现名江青。他即向她祝酒，邀她合影。
宴毕，马歇尔一行又出席了杨尚昆在延安大礼堂主持的歌咏晚会。朱德代表中共中央致词，并列举了马帅赴华所做的和平工作。马帅激动了，明白了中共的心意。张治中兴奋地高声说到：黑暗已过，光明在望。和平事业的完成要感谢盟邦美国的协助与蒋主席的领导，让我们为和平、民主、团结、统一的新中国高呼万岁！将来你们写历史的时候，请不要忘记张治中三到延安这一笔。
张治中的话立即引起满堂掌声。毛泽东也鼓起了巴掌，他侧身问张治中：“将来也许还要回到延安，怎么只说三到呢？”张治中自信地说：“和平实现了、政府改组了，中共中央就应该搬到南京去，您也应该住到南京去，延安这地方，不会有第四次来的机会了！”毛泽东点了点头，说：“是的，我们将来要到南京去，不过听说南京热得很，我怕热，希望常住在淮安，开会的时候就到南京去！”
陕北天气寒冷，为取暖，毛泽东、周恩来、马歇尔等靠在躺椅上，腿上盖着厚厚的毛毯，脚下放着火盆。马歇尔此时则在谛听（黄河大合唱）：“风在吼，马在叫／黄河在咆哮，黄河在咆哮／河西山岗万丈高／河东河北高粱熟了，／万山丛中，抗日英雄真不少……”马歇尔又一次被这雄壮的歌曲感动了，“他感受到了中国人民不可战胜的雄风和不可征服的民族精神。
次日，延安东门外机场和昨日一样，热闹非凡。马歇尔一行要登上飞机离开延安到汉口。张治中对毛泽东说：“欢迎您早日到南京去。”记者从旁边播问：“请问毛主席，准备什么时候到南京？”毛泽东微笑答道：“蒋主席什么时候要我去，我就去。”他转过身，对将要上飞机的马歇尔：“再说一句，一切协定，一定保证彻底实行。”马歇尔登上舷梯，转身与毛泽东等握手告别。