中法战争是由于法国侵略越南引起的。越南本是中国的藩属国。可是由于法国殖民统治的扩张，越南军民虽曾英勇反抗侵略者，但大片国土已逐渐沦亡。全境 30 个省中，法国通过 1862年的法越《西贡条约》，割去南圻三省及康道尔群岛；1867 年又强占了南圻的另外三省，南圻大部归其所有，法国并设总督于西贡治之。此后，法国侵略者处心积虑攫取整个越南。越南阮氏王朝在刘永福的黑旗军支援下同法国交锋，互有胜败。
1880 年以后，法国开始计划夺取越南的北部，这直接影响着中国西南边疆的局势。总理衙门和李鸿章商讨之后，李鸿章认为应该先派遣兵船到越南红江以壮声威，然后派出外交使者做议和的准备。清廷决定要做好备战、议和两手准备。
1882 年 4 月，李威利率领法军攻陷河内。越南局势紧张。不久，李鸿章因为母亲去世，回家料理丧事。此时，由曾纪泽处理中法交涉事宜。曾纪泽的态度很强硬，强调中国和越南的藩属国关系，强烈向法国提出抗议。而法国报以冷漠的态度，不予理睬。按照传统的惯例，李鸿章应该为母亲丁忧三年。可是清廷鉴于局势紧迫，特“夺情”要求李鸿章守满百日即回。李鸿章奉命于 9 月回到天津，署理北洋大臣。11 月，李鸿章开始与法国驻华公使宝海谈判。年底，双方基本上达成协议。在协议中，李鸿章妥协让步，即在红河中间划界，南部和北部由法国和中国分别保护。这个协议得到了两国政府的基本肯定。可是，到了第二年的 2 月，法国发生了政变，新任内阁总理茹费理全面否定了上述和谈，并撤销宝海的驻华公使职务。法国加强对越南的进攻，并扣留中国商船蓄意向中国挑衅。李鸿章上书主张避战求和。李鸿章认为：虽然越南是中国的藩属，涉及到中国边疆的安定，但是中国海军不是法国的对手，根本无力保护越南。而以张之洞为代表的主战派表示，中国现在的危机状况就是一味求和引起的。如果中国坚持和法国打持久战，中国一定会胜利。
李鸿章和曾纪泽分别与法国方面进行了持久的谈判，由于法国的诸多要求无法让中方接受，谈判破裂。1883 年 12 月，法军进攻越南山西的清军，中法战争正式爆发，清军溃不成军。于是，朝廷内部又爆发了一场主战和主和的大争论。主战派表示，目前的局势都由一味求和酿成，必须给法国以严厉的打击；主和派则表示，现在中国战败就说明了万万不能和法国开战，开战必败已经成为不可逆转的经验和事实。
李鸿章一直以“求和”的态度主事，始终受到主战派的抨击和责骂，主战派最后说服了李鸿章。当李鸿章也表示主战之后，主战派占据了上风。在这场大争论中，还蕴含着一场清廷内部的政治斗争。精明的李鸿章早已看出事态背后的危机，所以一直和主战派人士走得很近。他在奏折上说：“每举一事，动关全家，是以谋画之始，断不可轻于言战，而挫败之后，断不可轻于言和”。“伏愿朝廷决计坚持，增军缮备，内外上下，力肩危局，以济艰难”。
李鸿章从烟台到旅顺，对北洋直辖地区水陆两军均作了周密部署。在给滇桂两省增派兵力的同时，调拨一批枪炮弹药给桂军。整个战争期间又一再筹划增购和调拨军火。时逢台湾被困，日用军饷无以为继，他也尽力设法接济。李鸿章建议统一领导，前线作战由云贵总督岑毓英负责，军械则责成两广总督张树声转运分拨。他自己则眼观各方，联络上下左右，为协助朝廷驾御全局处理有关军事和外交问题尽心尽力。
1884 年 4 月，慈禧太后对军机处和总理衙门进行了大改组。以奕環集团取代奕?集团，并给主战派以严重的打击，李鸿章很快又回到了主和的立场。李鸿章开始和法国代表福禄诺谈判。福禄诺只是法国的一名海军舰长，本来是没有资格和李鸿章谈判的，但是他在起草北洋水师章程时做过一些工作，与李鸿章相识。福禄诺在香港遇见时任粤海关税务司的德璀琳，表示自己和李鸿章有交情，希望能去和李鸿章谈判，德璀琳答应了他的要求。由于曾纪泽在法国交涉中的强硬态度引起法国人的不满，福禄诺要求把曾纪泽调离法国作为议和的先决条件之一。李鸿章只得照办，撤销了曾纪泽驻法国公使的职务。
1884 年 5 月，李鸿章和福禄诺签订《李福协定》，规定：中国承认法国和越南订立的条约，法国不索赔款，中国同意在中越边境开埠通商，中国军队自北越撤回边境。条约签订之后，清朝大臣们纷纷反对，认为此条约过于辱国。李鸿章遭到主战派的联名奏劾，御史与翰林也联名上书弹劾。清廷不得已下令让左宗棠重新回到军机处。6 月 23 日，发生了“北黎事件”。法军向谅山前进，谅山清军表示没有接到撤防的命令而加以阻止。法军在北黎打死清军代表，炮击清军阵地，清军打退法军。法国政府故意用“北黎事件”向中国方面挑衅，诬蔑中国破坏《李福条约》，借以索要军费 2 亿 5 千万法郎，并派出军舰前往福建和基隆。
清廷内部慌乱不已，大臣们一时间都没有了主意。左宗棠说中国不能总是示弱，不如拿赔款作为战费。李鸿章则还是主张议和。8 月 23 日，法国舰队突袭福建水师，清政府不得已下了宣战书。10 月，法军对台湾和北越发动进攻，中国又开始新一轮的议和。 1885 年 3 月，清军在老将冯子材的带领下，收复镇南关，使中国占据了战争的主动权。于是，中国和法国于 4 月 4 日在巴黎签订《中法停战条件》。 中国在胜利的情况下，竟在条约里作出妥协和让步，这让法国当局都感到十分惊讶。而前线清军将士听到这个消息之后，一个个忍不住仰天长叹。6 月 9 日，李鸿章和法国代表签订《中法新约》。条约的主要内容是：法国保证不侵犯中国边界，中国不过问法国和越南之间的条约，越南与中国的通商章程，法军退出台湾和澎湖。
《中法新约》是晚清政府有史以来在对外战争中惟一一个没有割地和赔款的条约。李鸿章采取的是见好就收的策略。在他看来，冯子材等在越北的局部性胜利没有改变敌强我弱的全局。中国海军刚刚建立，实力很薄弱，如果继续打下去，后果还是难免打输了就赔款的结局。此外，台湾一直被困，澎湖已被法军侵占，如果派军到台湾，法国必会增派军力封锁台湾，中国水师无法解救。当时，日本正着手侵略朝鲜。李鸿章认为朝鲜的地理位置比越南重要，应弃越南而保朝鲜。李鸿章把原定增援台湾的军舰调去保护朝鲜，以对付日本。如果一味的和法国作战，不仅胜负难料，日本人还会借机侵略朝鲜，那就更不妙了。