如果说两年前之洞离京赴晋抚任时，满怀一展抱负，匡济世穷的激情的话，那么此次离京赴粤，于波滔万顷之上。遥望南天那阴沉依重的战云，心头却沉荷着万钧重负。对于中法争端，之洞的主战态度是十分鲜明的。但他同时也清醒意识到，要想赢得此仗，殊非易事。从朝廷方面看，虽然慈禧战意渐浓，但朝中主和派的势力并未稍减。一旦他们于后方制时，自己在前线便无法施展克敌招数。从战争双方力量对比看，“法强华弱，初战不能不败”。法国武器装备方面的优势固不待言，更可虑的是站在它背后的列强的态度：
英国已经在华拥有巨大利益。它占有中国外贸总值的百分之七十，外国在华公司的三分之二，且控制了中国海关。因此，英国惟恐中法之战影响自己的在华权益，外交大臣格兰威尔公开表示，英国“一方面不愿意中国的市场因长期敌对行为而耗竭；另一方面中国的任何胜利一般说来对欧洲人会有严重后果”，担心抗法胜利会引起连锁反应，因此在”调停”的幌子下，一面要求法国将战争范围限制在长江以南，一面压清政府对法妥协。德国则希望法国陷于亚洲事务，以利于强化自己在欧洲的霸权地位。它最高兴的是中法之战长期拖延。所以它一方面称法军入侵越南是“正当”的，另一方面又表示对清政府的支持，对华出售军火。
对于日本来说，法军入越并与清军交战，无论是从分散国际舆论对日压力还是牵制中国军事力量方面，都只会有利于它侵略与中国有着同越南类似的藩属关系的另一个邻国朝鲜。美国和沙俄虽然没有直然支持法国，但它们出于各自的利害关系，也力图就此发挥影响，特别是美国公使扬越翰，多方奔走，力图借此扩大美国在华影响，这些活动更容易动摇朝廷的决战决胜之意。
轮船走走停停，航行了二十余天，之洞利用这段时间反复思忖此次奉使督粤的总体谋略。虽然具体方案不及排定，有一条却坚信不疑，这就是：粤海经略，千头万绪，但“以忠义激士民，以重赏鼓勇士，以和衷联诸将，以广听收群策”，首先打好对法一仗，乃当务之急。
光绪十年（1884）闰五月十六日，之洞行抵广州，二十日前任两广总督张树声（1824—1884）移交关防印信，之洞接篆视事。履任伊始，他不敢稍许懈怠，立即投入紧张的备战事务之中，“汲汲以筹战守为事，咨之同官，访之将吏，综核军费，计画饷需，按考舆图，劝督团练，于是巡历外海内河各炮台、省城外陆军各营垒”。正如他后来回忆：“到广之日，即逢海警，内防外援，应接不暇，兵食兼筹，无一不难。事机则非常之紧急，而人才物力、文法习气，无不患非常之疲缓。”在这种万般困难的形势下，张之洞力筹战守事宜，可谓竭智尽力。
（一）制订总体防务规划。
之洞经与钦差大臣、兵部尚书彭玉麟、前任两广总督张树声、广东巡抚倪文蔚等商订，规划粤省防务“大端有四处”.即省防、琼防、廉防、潮防。其中又以省防（即广州城防务）最为关键。虎门海口浩渺深阔，两岸炮台年久失修，一时猝难改造。决定新购洋炮以加强之。分支河口，责成各县编练民团，雇募沙艇，购觅民炮，择要而守，相机而战。又划分省防为前、中、西南三路，分别由彭玉麟、张树声和张之洞负责。对琼防（海南防务）、廉防（廉州，今广西合浦一带防务）、潮防（潮州，今广东平远一带防务）也分别作了部署。
（二）、协调内部关系，“以和衷联诸将”。
南疆战事在即，清廷不敢大意，粤省要员云集。如何处理好相互关系，是之洞面临的大问题。彭玉麟和张树声都是著名战将，但彭属湘军，张属淮军，门户派别之见自不待言，而且彭玉麟调广东的直接原因是张树声办理军务不善，张树声对此耿耿于怀，曾阻彭来粤，但未能如愿。彭来粤后，独带四营远驻琼州。两员宿将关系紧张，早已尽人皆知，之洞于抚晋期间即有所闻。他在给张佩纶的信中说：“振雪不和，最关紧要，务须设法调和之。”到广东后，之洞特别注意以同等态度对待彭、张二人。省防分三路，自任一路外，委二人各防一路，不偏不倚，均示以借重之意。
之洞本人与张树声的关系，也是十分敏感的问题。张树声为前任两广总督，朝廷令其卸任交之洞，却并不调他离粤而去，仍着参与军务，其贬黜之意十分明显，树声当然不会心情畅快。而且当时有人奏参张树声“不符物望，难胜兼析。推诿取巧，玩视边防，贻误地方”，之洞来粤，还兼有查证此参的任务。之洞对张树声并不回避这一切，开诚布公，将有关文件一并交树声本人知晓，并在查复朝廷的奏折中，有意为其辩护，称他“素行谦谨，久历封疆，刻意自爱。服官各省类皆孜孜求治”，参劾多为“妄生猜忌”。张树声对此十分感激，与之洞的隔阂顿然冰释。
经过之洞的一番努力，“目前在事之臣毫无意见之参差，即湘淮粤诸军亦毫无雕域之间隔”，军政一心，同仇敌忾。
（三）、息借商款，筹措军需。
之洞一向认为，与其战败赔款，不如息借洋款以筹边防，“孰得孰失，此理易明”。早在京官时期，他就曾上奏，“宜令上海道速向各洋商议借数百万巨款，以应急需”，抵粤任后，他发现前任张树声向香港汇丰银行所借二百万银仅余五十万两，“勉敷本省防营三个月军粮之需”，便立即“再向港商借用”。他在两广总督任内，先后共为广东海防借银二百万两，为援助滇军、桂军及台湾军民，共借银五百万两。这无疑大有助于增强军力，以御外侮。
张之洞到达广州前后，军事形势已十分险恶。光绪十年（1884 年）初，法军向北圻发起新的进攻。广西布政使徐延旭（？—1884）、云南布政使唐炯（1829—1909）率领的清军不战而溃，法军占领山西、北宁。清廷又令云贵总督岑毓英（1829—1889）赴越督战，岑却望风而逃。到这一年二月，在越清军几乎全部撤回中国境内。闰五月初一，中法军队于谅山观音桥发生冲突。法国藉此大肆进行外交讹诈，竟向清廷索赔二亿五千万法郎（约合银三千八百万两），同时派出舰队北犯，于闰五月二十三日闯入福建水师基地马尾军港。六月十四日又进犯台湾基隆。七月初三日，发动突然袭击，歼灭福建水师于马尾港内。
在这种情况下，清廷不得不于八月二十七日对法宣战。
中法交战初期，广东边防相对无战事。但之洞并不因此而袖手安坐。他破除畛域之见，多方援助福建、台湾和云南等地的抗法军事行动。光绪十年（1884）四月，张佩纶受命出任会办福建海疆大臣。六月，他致电之洞请援。之洞即派游击方恭率兵五营自汕头援闽。方军正欲开拔，传来”马江惨败”消息，之洞又改派潮军两营，连同大批军火赴闽。张佩纶非常感激，复电称“公忠私义，不愧经营八表矣。……使各省皆如公，法气必沮，惜哉！”张佩纶复电中之所以有“使各省皆如公”之句，乃是有感而发。原来此前福建方面也曾向北洋大臣李鸿章请援，但李却以“北洋轮船皆小，本不足以敌法之铁舰大兵船。……断难远去，去亦无益有损”为辞，予以拒绝。两相对比，张之洞以国事为重，“筹济军事，不分畛域”的做法，更令时人所称道。
光绪十年九月，法舰队攻击基隆港，并封锁台湾，北起苏澳，南至鹅銮鼻，三百余海里范围内，禁止所有船舶出入，企图切断台湾守军的兵员饷械补给，困死刘铭传部。对此，李鸿章“以北洋舰小不足当巨舰，无从赴援入告。”张之洞却主动与刘铭传联系，提出“济饷械、通信，有何法？有便即示数语为慰。尊意如有保台良策奇计，祈示；能代谋者必竭力。”他克服法舰封锁，千方百计，先后支援刘部军饷银三十万两。这在广东方面自身财力窘迫的情况下，更显难能可贵。他还派潮勇五营并大批枪支、弹药，分别从汕头、泉州、厦门等港设法援台，可惜未获成功。
对于云南前线的战事，之洞也极为关心。他大力推荐唐景崧（1841—1903）新组粤军，号景军，开赴云南。联络黑旗军首领刘永福抗法。唐军一切费用，均由广东方面承担。不仅如此，唐军离龙州赴滇时，之洞又助刘永福军饷两万两。由唐带往。对此，云贵总督岑毓英致电之洞，表示感谢：“越事仰赖明公主谋，助兵助饷，始克有济。”
刘永福（1837—1917）的黑旗军原是十九世纪六十年代广西天地会反清武装的一支。同治四年（1865），该军在广西安德镇北帝庙前祭旗举事，所祭者为七星黑旗，故人称“黑旗军”。同治六年（1867 年），在清军围剿下，刘永福率部避人越南。法国入侵越南后，黑旗军与越民并肩作战，在十余年的艰苦岁月里，给予法国侵略军以沉重的打击。同治十二年（1873 年）十一月初，黑旗军在河内城外击毙法将安邺。光绪九年（1883 年）四月十三日.又在河内城西纸桥一仗中，击毙法军司令李维业中校。越南阮氏王朝虽然对刘永福心存疑忌，但又想借用其武装力量抗击法军，因而封其为三宣副提督。
对于这样一支英勇顽强、战功卓著的抗法农民武装，清政府却视其为“匪”。虽然曾补给枪械以抗法军，但前后济刘洋枪不过五百杆，“皆天津解粤之笨枪，弹药多不着火。”而且就是在这少得可怜的接济背后，还包藏着险恶的用心。正如四川总督丁宝桢所说：如果”该匪幸而获胜”，当然于清军不无补益，而且黑旗军又不属正规清军，不用担心法国借口寻衅报复；如果黑旗军吃了败仗，“设此类竟为法国所歼，亦隐为中国除一大患。驱狼斗虎，似属一举兼得。”因此，当刘永福黑旗军凭借简陋枪械与法军浴血苦战时，装备精良的清军主力却在广西布政使徐延旭、云南布政使唐炯统辖下作壁上观。更有甚者，清廷某些大员甚至认为黑旗军抗法得胜是件大坏事：”若刘永福果终于胜法，又必骄悍难制，……各省亦须设防，是又岂浅鲜之害哉？”
张之洞对刘永福黑旗军的态度则不相同。作为统治集团的中坚，之洞对于农民起义、农民武装当然绝无好感。三十年前在贵州兴义城头与农民军拼死一搏的难忘情景，早已给之洞打上深刻的烙印。但是，作为一个爱国的、开明的政治家，之洞高于一般官僚的地方就在于，在民族矛盾压倒阶级矛盾的反侵略战争中，他能够将“御外”置于“制内”之上。还在山西巡抚任内，之洞就提出应授刘永福以正式官职，承认黑旗军的合法地位。他在《法衅已成敬陈战守事宜折》中说：“防不如战，近不如远，迟不如早，而要以争越、封刘、战粤、防津为四大端。”所谓“封刘”，即指授予刘永福以正式官职。之洞充分肯定黑旗军的抗法功绩，称“法人屡败于刘团”，并对黑旗军在日后战局中可能发挥的作用给予高度估价：“此时乘已战之局，藉刘团之助，因越民之扰，就陆战之便，与之纵横奋击，安见不可终挫凶锋？”当李鸿章等朝廷大员处心积虑欲置刘永福黑旗军于死地时，之洞义正同严地宣告：“洞敬其为数千年中华吐气，故竭力护持之。”
张之洞就任两广总督后，再次建议清廷将黑旗军收编，以利战事。经过之洞反复奏陈，光绪十年（1884 年）八月，朝廷对法宣战后，终于接受之洞“牵敌以战越为上策，因越以用刘为实济”的建策，授刘永福“记名提督”衔，赏戴花翎，并陆续拨给黑旗军饷银七万两。黑旗军取得合法地位后，之洞又大力资助其饷械，半年多时间内，先后拨银十五万五千两，并令清军与其协同作战，共抗法军。唐景崧率景军配合黑旗军，于这一年年末出击宣光，取得临洮大捷。诚如唐景崧所说：“黑旗自与法人迭次交锋，皆大战，未有借助于他军者。两载以来，虽曰助刘，何尝有同泽同胞之义哉？独此次为我景军切实援应耳。”黑旗军的处境前后迥然不同，得力于张之洞的开明态度。很显然，这种变化不仅有利于黑旗军，而且更有利于抗法战争的大局。