两路钳形合围的日军步步紧逼，中国军队节节后撤，东路由娘子关攻入的日军连克阳泉、寿阳，占领榆次，太原城岌岌可危、四面楚歌。
太原，又称晋阳，是中华民族文化古城，又是重要军事战略要塞城堡。太原地区左有恒山、太行之险，右有黄河之固，地处“中原北门”踞天下之肩背，为河东之根本，乃古今必争之地。历史上许多王朝暴君攻击争夺太原，后汉国主刘知远，曾利用驻守晋阳的机会，扩充势力，伺机称帝，史称后汉。他的弟弟刘崇键任河东节度使后，在晋阳篡政，史称北汉。北汉乾佑七年公元954年，后周世宗柴荣率兵攻至晋阳城下，柴荣很自负，认为打北汉如同“以山压卵”。然而，后周军虽然将晋阳城重重围了两个月，却未能攻下，只好悻悻撤退。
赵宋统治集团夺取天下后，把晋阳称作“龙城”，为了夺取它，宋太祖赵匡胤和宋太宗赵光义都曾经御驾亲征。公元979年4月，晋阳终被宋军攻陷，赵光义命令在城内多处放火，并引来汾水和晋水冲掉废墟，企图使它痕迹全无。然而在此基础上重建的太原城，在宋代仍然被视为军事重镇，著名抗辽将领杨业曾驻守在这里，公元1125年，金兵分东、西两路南侵，西路从大同直指太原，围城达9个月之久，太原终于沦陷，城内人民“万中存一”，金兴定二年（公元1218年）蒙古军队占领太原。明太祖朱元璋攻金元大都（北京）后，命徐达，常遇春进取山西，从平定突袭太原。明朝为抵御蒙元残余势力的威胁，曾将太原列为九边重镇之一。公元1644年正月，李自成攻占西安之后，亲率20万人马从禹门渡过黄河，进入山西，攻破太原。后来，李自成被清军赶出北京，又曾退至太原，并派得力部将陈永福在此留守。公元1644年9月，清军围困太原，用大炮轰击城垣，占领太原。
而外国侵略者进攻太原，而且由第2战区司令长官阎锡山统一指挥，抵御日本帝国主义入侵。在历史上还是头一次。眼下是日本10万大军三路会攻太原，在此严重危急情况下，1937年11月2日，阎锡山在太原绥靖公署中和斋会议厅举行第2战区高级将领紧急军事会议，讨论保卫太原。还是放弃太原问题。参加军事会议的高级将领有卫立煌、黄绍、孙连仲，晋绥军将领赵戴文（时任山西省省长）、朱绶光、楚溪春，傅作义。中国共产党代表周恩来也应邀参加了阎锡山召开的军事会议。
阎锡山本想以卫立煌的“中央军”坚守保卫太原，这样，既树立起“守土抗战”威望，又保存下来自己晋绥军武装力量。因此，阎锡山在召开的有“中央军”、晋绥军和八路军高级将领参加的军事会议上，反复强调：一旦太原陷入日军手中，就会影响整个抗战形势，必须保卫太原、保卫山西。他指出，要阻敌于太原以北，以掩护太原城内的物资向晋西、晋南安全地带转移。当阎锡山提出守城指挥由卫立煌负主责时，会上一言不发，卫立煌也沉默不语，他不是贪生怕死，畏缩不前，而实在是觉得守太原意义不大，而且也很难守住。尽管日军占领太原前哨榆次县城，会议从早开到晚，也决定不了首当其冲的城防司令由谁来担当。后来，不知哪位说了句，保卫山西首府，应该是晋绥军里威望高和有卓越指挥才能的将领出任。这样一来，阎锡山的目光由卫立煌转向傅作义。晋绥军的将领们顺风而来，大肆奉承傅作义，历述他的光荣战绩。会后阎锡山又和傅作义作了个别谈话，答应把第101师归还35军建制，另外还拨了一些新收编的部队和3个炮兵团，供傅作义守城时调遣。又对傅作义说：“宜生（傅作义字）过去守涿州守了两个月，名闻全国，现在太原城里的粮食弹药都够半年用的，宜生可显示一下身手。”最后，阎锡山手拍着傅作义的肩膀说。“宜生！一定要守住咱的太原！”
会后，周恩来对傅作义表示钦佩，并说：“我愿意代表中国共产党，还有全民族，诚恳地对你说一句话：抗日战争胜利的基础，在于广大人民群众之深厚的伟大力量。请你保重。”
形势已经很危急，由娘子关进来的日军在占领榆次、太谷之后，向太原以南包抄过来，切断了中国军队沿同蒲线的南撤之路。太原市内已经可以听见隆隆的地声。刚刚经历过20几个日夜鏖战的卫立煌，眼睛熬红了，声音嘶哑了，像生过一场大病一样，疲倦不堪，情绪低落，可是一听说周恩来来了，立刻来了精神。
一见周恩来，卫立煌就想起八路军在敌后的战绩，他感慨不已他说：“八路军把敌人几条后路都截断了，对我们忻口下面作战的军队帮了大忙。要不是娘子关方面的情况变化，我们真能够把板垣师团歼灭一个差不多。这件事情没有完成真可惜，太可惜了。”
他接着又说：“没有把129师调去打阵地战是做对了。阳明堡烧了敌人24架飞机，是战争历史上从来没有过的事情，我代表忻口正面作战的将士对八路军表示感谢，感谢！”
周恩来问到下一步的打算，卫立煌一听脸上泛起愁云：
“目前有两种意见：一种是黄绍副司令长官的意见，集合从忻口和娘子关两方面退下来的军队，在太原附近再组织一次野战。凭近郊的山势，再打一阵。这种想法不报现实，太原已经陷于三面包围之中，让这些疲劳的队伍——有些已经集结不起来了，再战是不容易的，没有一个最低限度的集结休整的时间是不行的。另外一种是阎司令长官的意见，让宜生（傅作义）坚守太原城，他的35军还是完整的，比较精悍。阎司令长官说宜生兄过去守涿州守了2个月，名闻全国，现在太原城中粮食弹药都够半年之用，要宜生兄再显一下身手。我看这个事情不好办，实在是犯愁。”
周恩来开导卫立煌：“我们要在失败的时候看到光明，看到前途，认为没有办法，发愁，都没有必要。你不足知道中国的抗战是长期的吗？胜败不在于一城一地之得失，就算太原保不住，只要我们继续抗战，不动摇，不妥协，实行全民总动员，进行民主改革，将孙中山先生的革命三民主义付诸实施，最后我们定能改变不利的形势，在战场上取得主动权。你不是知道八路军在敌后活动得很好么？因为我们紧紧依靠了人民。假如山西省早就给了人民以自己组织自己武装的权力，形势就会变成另外一个样子，你说是不是呢？……”
一席话，说得卫立煌频频点头，若有所失。后来，卫立煌部坚持转战华北抗战，正是由此开始坚定了信念的。
日军乘着中国守军撤退时混乱，派出飞机轮翻轰炸，兼以步兵追击，11月5日，敌人迫近太原城郊。守太原城总指挥、第7集团军总司令兼第35军军长傅作义将军，很快作了守城部署。当有人问傅作义，面对从东、北、西三面包围了太原的日本侵略军，空中又有根强大空军在太原上空盘旋轮翻轰炸，能否守住太原？傅作义有信心地回答：
“我守涿州打了胜仗，守天镇也不错，守太原也会有办法。太原东西两山形势很好。正面顶住，两山做倚托，太原就不易攻下。再说，太原城里存的军火弹药、粮食很多，只要太原能守住打了胜仗，就可扬名世界。”
阎锡山留给傅作义的守城部队，计有步兵第35军的第211旅（旅长孙兰峰）、第218旅（旅长董其武）共6个团；原第61军李服膺部的第213旅（旅长杨维垣）2个团；第73师（代师长王思田）师部；新编独立第1旅陈庆华部3个团；炮兵有第21团和第25团。另外还有炮垒大队和高射炮1个连。这10000多人的守城兵力，在周长32里的太原城市防，着实不敷分配。
但是，傅作义对保卫太原，抵御日军的进攻，仍作了周密的守城部署。他在守城动员时说：“守土抗战，军人有责。野战军在，太原当然要守；野战军走了，太原还是要守。”
1937年11月6日拂晓，日军集中兵力向太原发动攻势。日军疯狂已极，在太原城外高地架起百门大炮，炮口对准太原，上空、飞机盘旋，步兵进入阵地，大有一触即发之势。傅作义一天到晚，视察城防工事。阎锡山和他的第2战区长官司令部，正收拾东西、文件，准备撤离太原。
对于保卫太原，是死守还是守到一定时候，消耗敌人之敌弃城撤离？当时第2战区司令长官阎锡山，与山西省政府主席、战区长官部政治部主任赵戴文两位山西首脑之间，产生严重分歧。
阎锡山争官争权，每当重要历史转折，赵戴文总是把阎锡山推上前台，他在幕后为阎锡山出谋献策，给他撑腰。但是，对于阎锡山与日本人勾勾搭搭，赵戴文始终提醒他：“我们绝不能充当汉好走狗卖国贼。”
日本帝国主义侵占东三省，进而侵略全中国，阎锡山“联共抗日”，提出“守土抗战”的口号，赵戴文全力以赴，积极支持。阎锡山充当第2战区司令长官统一指挥中国抗日军，抵抗日军侵略进攻。担任山西省省长的赵戴文，组织后方群众支援前方部队作战，并且无时无刻不在关注前线战事态势的发展。
赵戴文懂军事，担任过阎锡山的参谋长，也当过混成旅旅长，当他的学生徐向前陪同周恩来到山西一与阎锡山谈判合作抗日时，在太原赵戴文曾专门约见徐向前，要他谈谈中国共产党的抗日主张。又问徐向前：“万一太原失守怎么办？”
徐向前说：“万一守不住，就要事先炸掉小钢厂、军工厂之类的工业设施，不能留给日本人。要组织民众，坚壁清野，把日寇困守在太原城内，逐步消耗和消灭他们。”
徐向前说罢，心情沉重的赵戴文先生点点头，他赞成徐向前的意见。而在太原沦陷前，阎锡山调傅作义坚守太原掩护省政府机关和第2战区长官司令部撤离之时，任山西省主席的赵戴文曾向太原市民宣示，如果日本人入侵太原，他就在太原殉职。
阎锡山保卫太原的目的，一是掩护太原的重工业机器，尤其是枪炮制造业，向晋西、晋南转移。二是向山西老百姓和一切爱国人士表明，他是“守土抗战”的。他并没有要求傅作义及全体将士“与城共存亡”，而是暗示，在完成掩护撤出任务，达到消耗敌人目的之后，再行突围。于是，当阎锡山决定撤退时，赵戴文决心死在太原，不做日寇俘虏。几次与他商讨，为保存力量伺机反攻必须像辛亥起义袁世凯复辟派兵占领太原时，我们一度向南北撒离，始能挽救危亡！赵戴文始终不为所动，他说：“他（指阎）要走他走，我不走；我的血洒在太原，我的躯体葬在太原！”
无可奈何，阎锡山临行前叫梁化之找赵戴文，传他的话说：“长官说，他与老先生一向是同主张、共事业的，今天一个走，一个留在省城，这样步调上有所不同，在是非上也有差异，在历史的评价上，重会有分歧，希望老先生考虑。”赵次陇呀，赵次陇，阎百川把话说到这份上了，还不……赵戴文沉思良久，最后顿足说；“走！我走！我与长官同步调，不能单独行动！”
此时，日军从三个方面向太原压缩，中国军队只剩下越过汾河向西南撤退这一条路了。
阎锡山带着依城野战的部队，赵戴文带山西省政府官员，撤出太原城。日军总攻太原的枪炮打响了。这时，日军空军的轰炸使太原城内隆隆震耳，硝烟弥漫，城墙被毁，太原城一片火海！日军步兵在飞机、火炮和坦克掩护下向太原城猛烈地攻击。
6日拂晓，日军步兵开始向太原北关兵工厂和东北城外黄家坟守军前进阵地进攻。日军炮兵在飞机指示目标下，以数十门榴弹炮、野炮，集中火力，向东北城角的城墙猛烈轰击，城墙上部，在硝烟弥漫，地动山摇的震憾中，逐渐被打成缺口，崩落的碎砖土块，在城下排成斜坡。傅作义命令城防炮兵开炮还击，形成整天的炮战。天晚停战，守城部队连夜将城墙缺口修复。
兵工厂前进阵地的第420团团长李思温，以两个营的兵力，依据早已构筑的坚固工事，顽强抵抗优势敌军的进攻，日军无数次的疯狂冲击。黄昏以后，奉令撤入城内。7日拂晓，北城外的日军利用关厢建筑物，东门外北段的日军利用丘陵地带，分别接近城墙，开始了全面进攻；同时，日军还分兵绕过东城，向城南的火车站迂回；另支日军则由汾河上游渡河，进出于城西的汾河西岸，企图对太原合围。日军主力以步炮空联合作战，又向东北城角猛烈进攻。经守军连夜修复的城墙缺口，很快又被日军大炮、飞机轰炸摧毁。战况甚烈，城坡上日军尸体成堆，大片黄土已成殷红色。太原守军也伤亡惨重。日军整天猛攻东北城角，伤亡惨重，很不甘心，由白天进攻，改在黄昏调集精锐，加大兵力，再次强攻。城墙缺口守军，全力阻击，终于在兵员伤亡殆尽、援军一时调集不来的时候，被日军约一营兵力突入城内，占领了小教场的炮兵营盘。8日，日军继续向北、东两线进攻，守军各团连日激战，兵员损失很大，东北城角的缺口守军已无法控制。日军从这里又钻进来两个营，会同昨日突入的部队，向外扩张战果，但由于地形局限性很大，于作战不利，经过巷战，日军攻占几个院落，再没有发展。坚守太原部队也已精疲力竭，既不能歼灭入城的敌人，也没有力量将敌人逐出城去。同时，守军发现日军坦克掩护汽车，不断由汾河以西公路上，向南运送部队……。
傅作义在防空洞里焦急不安，一个劲地向部下下令：“坚决守住！”就是不肯吐半个“撤”字。直到最后，才叫来参谋长陈炳谦、守城指挥官袁庆曾。他们两人一进屋就对傅作义说：
“司令，实在顶不住了，撤吧？”
傅作义铁青着脸：“你俩也说撒退，那好，撤！”
傅作义下令守城部队于8日晚突围。太原城仅仅守了3天就陷入日军之手。
阎锡山和赵戴文率领第2战区司令长官部和山西省政府人员，出太原城由孝义县、县的大麦郊，撤退到临汾。太原城防司令傅作义和他的参谋长陈炳谦，带少部分警卫部队，渡汾河从炭窑口上了西山。然后，集结退出太原城来的1000多人，到达石楼、柳林一带休整。
晋绥军经过3个月的连续作战和溃败，至此已丧失十分之七。阎锡山自从离开太原之后，把一切希望都寄托在山西的新军——共产党员薄一波等所组织的山西牺牲救国同盟会及其领导下的山西青年抗日决死队身上，希望借助这些爱国的进步青年建立新的军事力量，打开山西的新局面。阎锡山本人既不敢明目张明地逃跑，又不愿离开自己的老窝，他带着一部分刚刚组建不久的新军决死队，教导团，坚持在吕梁山脉，胜则发展游击战争，败则退到黄河西岸的陕西省宜川县去，把领导第2战区作战的责任完全推给黄绍和卫立煌。
黄绍本是桂系中的第三把手，自从被蒋介石收买叛离了李宗仁、白崇禧，在南京一直是高官厚禄，养尊处优。蒋介石不派自己的嫡系，而先派黄绍到山西，是想既消除阎锡山的顾虑，又可以掺砂子。黄绍没带一兵一卒到山西，空头指挥不好当。娘子关失守直接导致忻口会战流产和太原失守，他自己也觉得面子上不好过。对华北抗战，黄绍已经失去信心，到临汾没住几天就借口到南京汇报，一去不复返。
丢了大半个山西，又损兵折将，安插在阎锡山身边的人又没呆住。蒋介石仍不死心，又想出一个在华北成立第7战区的方案，用第7战区司令长官的名义调虎离山，把四川的实力派人物刘湘调到华北来。刘湘当然不愿意，阎锡山也怕他来，这个方案也只好流产。于是，在临汾主持山西战局的责任就落在卫立煌身上。
日军占领太原后，需要时间进行休整，暂时不能继续南下。中日两军对峙的地界，中间是同蒲铁路线上的介休，西边是晋西南的大门汾阳，东边是晋东南的大门子洪口。卫立煌指挥的中央军和杂牌军到此时已伤亡溃散近半数。到临汾以后，主要是收容集结队伍，补充人员和武器，准备抵抗日军的继续南侵。
11月中旬，南京最高统帅部重新发布命令，任命卫立煌为第2战区副司令长官兼前敌总指挥。
山西之战从此转入中共八路军与日军的游击战。