当张之洞在山西开始讲习洋务时，中国的南疆出现了战争风云，法国先是侵略越南，进而侵略中国。张之洞作为主战派的一方大员，在抵抗法军的入侵中起了重要作用。
法国侵略者咄咄逼人，清政府妥协退让。朝廷上下，主战的呼声日益强烈。张之洞更是坚定的主战派，他对两宫皇太后说：“与人角斗，既欲击之，又恐怒之，虽授以常胜之兵，无敌之炮，必不能取胜矣。”慈禧因此决定调张之洞到广州。如果说两年前张之洞赴晋时，满怀一种抱负、匡济世穷的激情的话，那么此次离京赴粤，心头却沉荷着万钧重任。法国不仅武器装备精良，还有列强的支持。
光绪十年（公元1884年）闰五月十六日，张之洞抵达广州。一到广州，他就竭智尽力地筹备战事。首先他制订了总体防务规划，对于广东防务做了细致的部署。他还协调内部关系，使军政一心，同仇敌忾。为了增强军备力量，他积极筹款，增强军力。在中法交战初期，广东边防相对无战事。张之洞并不因此而袖手旁观，他多方援助福建、台湾和云南等地的抗法军事行动。
张之洞还努力为刘永福和黑旗军争取到合法地位。黑旗军原是十九世纪六十年代广西天地会反清武装的一支，在法国入侵越南后，黑旗军与越民并肩作战，给法国侵略者以沉重的打击。大多数清廷官员把刘永福领导的黑旗军当作虎狼。张之洞尽力护持黑旗军，为抗法争取到重要力量。他还大胆起用老将冯子材。冯子材不负重望，他在关键时刻率领两个儿子相荣、相华身先士卒，冒死冲入敌阵，展开肉搏战，军士们的士气大振，也奋勇进击，取得了镇南关——谅山大捷。这场战斗鼓舞了中华士气，然而运筹决策的幕后英雄却是往往让人忽视的张之洞。
光绪二十年（公元1894年）春，朝鲜南部爆发大规模的东学党农民起义。朝鲜请求清廷助兵镇压，日本内阁认为这是发动战争的绝好机会。公元1894年（旧历甲午年）八月十五日，日军攻占平壤。两天后，中日海军在黄海大东沟海面激战，北洋水师遭受重创。对中日争端，张之洞持坚定的主战立场。在战争期间，他切实加强长江沿线的防务，准备迎击前来的日军。在看到防军精锐都随刘坤一（钦差大臣）北上，而长江下游防务空虚时，他又急调赫赫有名的冯子材驻守镇江。他还多方筹措巨额军费，上奏加征盐税以助军费。他还劝令淮商捐助饷银100万两，借广东、江苏商款200余万两，洋款200万镑。
尽管刘坤一、张之洞等主战派竭力支撑，清军爱国官兵浴血奋战，但仍然挽回不了甲午战争失败的结局。这一年三月二十三日，中日双方签订了《马关条约》。张之洞怒斥李鸿章“敢于犯天下之大不韪”，同时也对慈禧太后的妥协态度表示了强烈的不满：“坐视赤县神州，自我而沦为异域，皇太后、皇上将如后世史书何？”当然这一切都无济于事。张之洞所能做的，只是继续支援台湾军民抗击日军，延迟割让台湾成为既成事实。他通过种种途径接济台湾军民饷械。对于他援台的行为，妥协派十分恼怒，清廷更怕得罪日本，也再三严令禁止接济台湾。在这种情况下，张之洞迫不得已放弃援台。刘永福坚持到弹尽粮绝，台湾最终完全沦陷。
