如前所述，日军大本营看到华中作战目标已经接近达成，苏联军队又没有集结的活动，允许寺内寿一派遣华北方面军，渡过黄河进攻山东半岛。于是，寺内寿一下令日本的第2军西尾寿造指挥日本第5、第10师团越过黄河，进攻山东，当时指挥第5师团的是板垣征四郎，指挥第10师团的是矶谷廉介，两人是日本士官学校的同学，交情深厚，又爱争强好胜。这两支日军在12月23日渡过黄河，企图在攻克济南之后，分兵两路，形成一个钳形攻势，聚歼国民党第5战区于徐州地区。
当时中国方面在山东最高的军政长官，是前西北军战将韩复榘，他在1929年，中原大战爆发之前，背叛西北军而投靠中央，由于韩拥有强大的兵力，因此国民政府就地招安，让韩出任山东的最高军政首长，由于韩拥兵自重，日本又把山东视为国民政府不得直接干预的地区，韩复榘在山东，可以说是处在半独立的状态，政策立场经常游走在日本与国民政府之间，经过多年的经营，韩复榘已经累积了可观的实力。
韩复榘本来对于国民政府的号令，就是经常采取应付与利用的立场，他一直不脱军阀割据的心态，他认为无论中日之战的结果，是由谁当政，自己拥有实力才是最为重要的。因此，当抗日战争全面爆发之后，他尽量设法保持实力，以坐山观虎斗的心态，避免卷入战端，只在河北山东交界的地区，对日军进行过侧击，得手之后立刻又退兵。
作为第5战区的副司令长官，以及第3集团军的总司令，他受命防守津浦铁路北段，但毫无抗战意志。军事委员会令其向德州、沧州一带出击，他拒不从命，未战先退。南京失守后，北线局势开始严峻，他仍未加强黄河防务。1937年12月23日，日军第10师团由青城、济阳间渡过黄河，韩复榘于24日即率军南退，仅留第20师守卫济南。26日济南失守。31日，蒋介石电令其将主力“分布于泰安到临沂一带，泰山山脉地区之各县，万勿使倭唾手而得全鲁”，他不但不依令增兵泰安，反而于次日(1938年1月1日)放弃大汶口，率军退至济宁；5日又由济宁率军退至曹县、单县、城武（今成武）一带，并公然违反军事委员会“无论在任何情况下，绝对不准离开本战区”的命令，将该集团军的军需辎重及私人财物等由津浦铁路经陇海铁路转至平汉路，进入第1战区防地，停于漯河。
在韩看来，蒋介石在华北失去了河北与山西，在华中失去京沪地区，中央军的精锐部队几乎耗尽，这正是自己保存实力，在关键的变局，发挥权力制衡作用的重要时刻。因此，韩并不积极的在山东进行布防备战，反而是在山东进行大量的搜刮，将可以带走的各种资产，全都先运往河南的南阳，然后自己指挥部队，一路退却待机而动。
虽然韩复榘一再接到第5战区李宗仁的军令，甚至军委会蒋介石的急电，要求韩务必在津浦路沿线的战略要地，进行防御作战，绝对不可不战而退。但是韩复榘竟然完全置之不理，一路的不战而退，让日军喜出望外的一路追赶。
蒋介石深知韩复榘的这种作法，会造成整个中国军队的抗日意志瓦解，于是在1938年1月11日，蒋介石在开封召开第1、5两战区高级军官会议，作了《抗战检讨与必胜要诀》的讲话。在总结“挫败原因”时，指出政府军队的12个缺点，其中着重批评了高级将领，认为“军纪荡然为第一大罪恶”，说有些高级将领缺乏牺牲精神，“缺乏敌忾心”，“缺乏坚决自信”以及“命令不能贯彻”等，于当日将韩复榘“免职查办”，送到武汉，以违抗命令、擅自撤退罪，依法处以死刑，1月24日执行。蒋介石的这个果决的行动，重振了低迷的军心与士气。对于督促广大政府军队官兵作战及提高军队的抗战士气起到一定的作用。白崇禧曾说：“韩既正法，纲纪树立，各战区官兵为之振奋，全国舆论一致支持，韩之原部第3集团军在孙桐萱指挥下亦奋勇与敌作战。在此之前，黄河以北作战部队轻于进退，军委会之命令，各部队阳奉阴违，经此整肃，无不遵行。”