镇南关—谅山大捷，给予侵略者以沉重打击。法国茹费理内阁因此而垮台。这正是中越方面驱逐法军出越南的大好时机。但是，清廷的软弱，断送了前线军民浴血奋战的胜利成果。
中法战争全过程中，双方打打谈谈，谈谈打打，外交接触从未中断。光绪十一年（1885 年）以前，法军在陆、海各路均占据优势，因而谈判态度蛮横。英、美、德等国出于各自目的，也从中插手，压迫清政府就范。无奈法方条件过于苛刻，清廷实在难以接受，谈判陷于僵局。正当此时，前线传来镇南关—谅山大捷的消息。李鸿章认为“当藉谅山一胜之威，与缔和约，则法人必不再要求。”他向慈禧提出“乘胜收束”的主张，并以此为基本立场，重开谈判。为了使谈判能顺利进行，清政府下令：越南宣光以东战线，四月十五日停战，二十五日撤兵；宣光以西战线，四月二十五日停战，五月五日撤兵；台湾方面，四月十五日停战。
上谕传至前线，军民群议沸腾。之洞于当天即致电总理衙门：“冯军刻必进攻北宁，大胜后方可言和”。第二天，他又致电慈禧：“款未定，万万不可撤兵。臣之洞谨昧死上陈，恳圣明熟思。”与此同时，他与冯子材、王孝祺、苏元春等紧急磋商，希望冯、王两军抢在四月十五日停战日期以前，攻克军事重镇北宁。可惜护理广西巡抚李秉衡从中作梗，未能实现。朝廷亦知之洞及前线军民的不满情绪，惟恐他们的行动影响重开和谈，严令“防军如期停战，撤回边界……倘有违延，朝廷固必严惩。”诸军不敢抗令，挥泪撤兵。之洞致电冯子材：“事权不一，洞能请之；需饷需械，洞能筹之。班师迫促尽弃前功，已得越疆仍还法虏。事机可惜，边患何穷！”抱憾之情，溢于言表。之洞是反对议和的。他致电李鸿章：“去岁奉电传上谕：‘法人无理，已饬决故。嗣后如有以和议进者定即军法从事！’此次进和议者为谁？”李鸿章毕竟心虚，把责任推给海关总税务司英人赫德：“查进和议者‘二赤’，我不过随同画诺而已。”当议和已成既成事实后，之洞只好寄希望于慎重订约，尽力维护主权，保护前线将士浴血奋战的成果。他电函李鸿章：“今议详约，万望力争，天下责望，惟在公也。”“画押宜慎，关系国家万年之计。”为此，他恳请朝廷将议约草案“发沿海沿边疆臣筹议”，但是，未被采纳。和约签字前夕，之洞在给左宗棠的电报里，倾诉衷肠：
闻详约十条数日内即画押，无非利法害华之事。洞请发沿海、沿边疆民筹议，不报。洞前后电奏二十二次矣，三争撤兵，余争条约、地界、商务、刘军、义民；初则切责，后则不报。人微言轻，无术挽救。若再草草画押，后悔曷追！
光绪十一年四月二十七日（1885 年 6 月 9 日），李鸿章与法国公使德诺在天津签订《中法会订越南条约十款》。条约承认越南为法国的保护国，中国应对“法国所办弭乱安抚各事。无所掣时”。西南边境对法开放通商，“中国与北圻陆路交界，允准法国商人及法国保护之商人，并中国商人运货进出”。中越修筑铁路应“向法国业此之人商办”。法军撤出台湾、澎湖。这样，法国虽然在战场上大败，但却在谈判桌上得到了它想得的权益，达到了其发动侵略战争的主要目的。中国不败而败，法国不胜而胜。
对战争如此结局，之洞“愤愤欲死”。事已至此，他所能做的，只是在职权范围之内尽力维护已经得到的成果，用他自己的话说，便是“疆臣之职，一在用兵力以相慑制，一在结民心以固藩篱，一在考地理以资折辩。”
黑旗军在中法战争中功勋卓著，法军恨之入骨。而清廷方面虽有所借用，但归根到底仍视之为异已。《中法会订越南条约十款》第一款载明“倘有匪党在中国境内会合，意图往扰法国所保护之民者，亦由中国设法解散，”便是为加害刘永福及黑旗军埋下的伏笔。法国还以黑旗军的撤退、解散作为交还澎湖的条件。之洞对此了然于心。“法恶刘、总督恶刘、北洋恶刘、岑师恶刘。法恶之而甚畏之，故约以此为首。”他的态度是，应从维护民族利益、国家安全的角度来对待刘永福黑旗军，“推诚相待，善为拊循，勿以节殉为词而遽罢其兵，勿以部众细事而苛绳不已，庶几平日无嫌，缓急有用，则所以厉海内忠臣猛士之气，即所以绝敌国妄生窥测之心，于海防大势不无裨益。”为此，他为如何安置黑旗军颇费心思。“留越法不许，屯滇岑不许，处粤边必生衅，处腹地必累刘，洞皆不敢允。”考虑再三，“该提督惟有依鄙人左右为便，有军务时既便于任用，兼可娴习礼节，与官场各衙门熟习联络，为东将居东地，此久计也。”他于省城东门外十五里之龙泉冈为其修筑营房以为驻扎之区。在《刘永福到粤折》中，之洞称刘“为人沈静骁鸷，知恩畏法，勇而有谋，深明洋战窾要，又肯讲求，后门枪炮是其所长；特生长边鄙，质地甚朴，听言易受人欺，吝惜财物，不忘人过，是其所短。至于不识文字，性情间有暴急之处，乃武将常情，无足为异。其治军纪律在越则甚疏，入关则甚整，是本有治众之才，但视其加意与否。”
当然，张之洞竭力护持刘永福黑旗军，也包含着用纲常伦理改造它，使其服务于清廷统治的深一层用心，但这样做毕竟保存了抗敌有功的良将名师，有益于国家民族。
和约签订以后，“越全属法，边患无已”，“款局虽定，边防难撤”。之洞为加强两广边防，又采取了一系列措施。调整防军布署。之洞认为，广西与越南接壤处，山崖纷歧，路路可通。边境重镇龙州，“视全桂腹地，东省上游。据有建领之势，实为两粤利害所关”。之洞将广西提督驻所由柳州移往龙州，以利控辖全局。又“镇南一关尤为中外铃辖，……关中之后，关之左右各路均须择要设防，而后气势不形单薄，不致有腹背受敌，时腋乘虚之虑”。以十二营专防镇南关中路，四营防东路，六营防西路，“路宽者筑台安炮，路窄者设卡开濠”。
加强通讯联络。派员勘设龙州至镇南关电线。又与云贵总督岑毓英会商，开通广西南宁至云南马白一线的电讯，沟通京、粤、桂、滇，以备战时之需。之洞表示：“此费云贵必不愿出，政府如果锐意防越，洞当筹之。”筹款购炮筑台。之洞奏请朝廷增加拨款，为镇南关、龙州、廉州、琼州前线防军购炮、筑台，并募专营驻守，以固边墙。勘立滇桂边界。为了防务的需要，之洞令部属对中越边界重加履勘，编考旧闻，“覆加研核，益得其详”。得知法国“勘界多系武职，意在考究形势，审探路径，用意甚深”，之洞亦选派总兵侯勉忠等十一员随往勘界，”令其周历险要，审度筑台设戍处所，考究车行出入道路，藉资阅历，以备他日有事之用。”