张之洞生于国势衰微日甚，列强侵略日迫的多事之秋。他的军事战略思想，始终立足于守备御侮。他说：“兵之于国家，犹气之于人身也。”“人未有无气而能生者，国未有无兵而能存者。”面临列强咄咄逼人的政治干涉、经济掠夺和军事侵略，张之洞认定，中华民族要想自存，非“力”不行，“力者，兵之谓也”。在近代国际强权政治格局之中，一味乞求和平，是决无出路的，惟有加强自身国防实力，方可收保国、保教、保种之实功。张之洞指出，作为弱国的中国高倡“弭兵”（即裁军）之议，是自欺之谈。他严厉批评“今世智计之士，睹时事之日棘，慨战守之无具，于是创议人西国弭兵会，以冀保东方太平之局，此尤无聊而召侮者也。”严酷的现实是，“权力相等，则有公法，强弱不侔，法于何有？”所以结论只能是：“苟欲弭兵，莫如练兵。海有战舰五十艘，陆有精兵三十万，兵日雄，船日多，炮台日固，军械日富。铁路日通，则各国相视而不肯先动。”
张之洞认为，不仅在整体国防建设的方略上，必须立足于自强自卫，而且在具体对外交涉过程中，也必须有武力为后盾。光绪十一年（1885 年），中法两国于广西前线进行外交接触，法方不同意广西巡抚参与谈判，“忌其有兵也”。张之洞针锋相对，力主“制敌正当投其所忌”.下令冯子材、唐景崧等部以临战状态相威慑，但却为朝廷所阻。他致电李鸿章，陈说此举的必要性。面对强权讹诈，“岂婉商力辩所能济事，彼拥兵而禁我带队，尤不可解”。只有以力抗力，才能取得谈判桌前的平等地位。这便是他一贯主张的：“必实有战心，实有战具，而后可以为讲之地也。”
出于守备御侮的考虑，张之洞不仅重视近代正规军事力量的建设，而且也注意利用民间武力。中法战争期间，他组织五千余人的民团，雇沙船、渔拖多艘，加强广州守备力量，又劝令侨商捐资购造兵船。中日甲午战争期间，他建议饬办东南沿海渔团，以张謇、沈云沛主其事。令其于近海港岸多挖长壕，广筑堤墙及土炮台，并暗埋水旱雷。“其紧要处所，简练团丁，分段设守，海口之可通出入者，则令渔船轮流出洋侦探”。此举大获成效，“溯自威海失陷，江南沿海各邑，风鹤频惊。勇营扼要驻防，每虑顾此失彼，幸有民渔盐场各团练，同仇偕作，踊跃从公，款则官劝民捐，事则官督民办，虽未交绥接仗而沿海数百万之居民得以安堵，不至惊窜流漓，实赖团练维持保障之力。”
作为清廷的方面大员，张之洞在“攘外”的同时，也常常动用武装力量以“安内”。如派兵缉拿各“教案”的“祸首”.镇压土匪、马贼、会匪、游勇，严厉处置，“就地正法”。但在他一生当中，于军事谋略及行动方面，始终是以“攘外”御侮为关注重心。