张之洞早年所受到的，是严格、正统的儒学传统教育。直至光绪七年（1881年）底补授山西巡抚之前，他完全生活在纯粹的中国传统文化氛围之中。光绪元年（1875 年），他在四川学政任内修撰以指导青年学子求学修身为宗旨的《书目答问》一书，收录书目二千二百余种，除历史、地理、天算等类收录《职方外纪》、《坤舆图说》、《经天该》，《数学启蒙》等少数西方传教士著译外，其余全力“端品行、务实学”的传统典籍。结束三省学官生涯，返回京师，人围”清流”，之洞与李鸿藻、张佩纶等互为引援，“以不谈洋务为高，见有讲求西学者，则斥之曰‘名教罪人’，士林败类”。此间张之洞的意气情趣，与传统土大夫别无二致。
光绪七年（1881年）底，张之洞出任山西巡抚。从有职守、无言责的清流之士，一变而为执掌一省政治、经济、军事实际事务的封疆大吏。抵任之初，他曾向张佩纶透露自己的治晋规画“皆中法非西法也”，但是不久，错综复杂的日常问题，尤其是山西弊病丛生，积重难返的衰败现实，使他意识到，固守祖宗章法，显然不能打开局面。正当他寻找兴革之策时，接触到英国传教士李提摩太，遂对“西艺”、“西技”的价值有了初步了解，并急思效仿，在山两兴办一系列洋务事业，开始了由清流党人向洋务大吏的转化。
与此相应，张之洞的文化思想也发生重要变化，由专注于修、齐、治、平的儒学大经大纶，转而兼取“洋务”新知。他印发的《延访洋务人才启》称，“查中外交涉事宜，以商务为体，以兵战为用，以条约为章程，以周知各国特产、商情、疆域、政令、学术、兵械、公法律例为根抵，以通晓各国语言文字为人门。”此时的张之洞，已经不再以谈“洋务”为耻，而是唯恐于此不摸门径，落后于时。他在给张佩纶的信中说：“鄙人僻在一隅，大事都不闻知，防海新论交议未及，大约止沿海及本省耳。如蒙朝命洋务，亦许与闻，下采荡荛，则当抒其管蠡，不致后时发议，徒为不切题之文章也。”足见其时追求洋务新知的急切心情。如果说李提摩太的西学启蒙对于张之洞来讲还只是具有别开洞天的新鲜感觉的话，那么随之而来的中法战争则给予张之洞以西方科技确实超乎中国的直观感受。
光绪十年（1884年），张之洞调任两广总督，参与中法战争的军事指挥、后勤保障等事务。战争实践使他对于军事科技层面中西文化的优劣高下有了真切认识。张之洞在一篇奏议中说：“夫欲善其事必先利其器，……器械不利，与空手同；不能及远，与短兵同，史之良规也。自法人启衅以来，历考各处战事，非将帅之不力，兵勇之不多，亦非中国之力不能制胜外洋，其不免受制于敌者，实因水师之无人，枪炮之不具。”基于这种认识，张之洞在两广任内，从军事人材培养和军械装备改善入手，于洋务事业“小试其端”，建造军舰，筹治水师，开设水陆师学堂，招募“通晓火器、水雷、轮机、驾驶、台垒工程之洋弁”，“翻译西国兵书、测绘、地图，并电学、化学、重学、气学、光学等项有关兵事者”，“制造火药、电线、强水、红毛泥，各种技艺均可量能因性分门讲求。”与曾国藩、李鸿章等洋务大吏一样，张之洞也是从承认西方物质文化（首先是军械装备）的客观先进性起步，以强烈的实用态度，企图吸收西方科技，以增强日趋衰微的朝廷实力，并在“理”与“势”，“德”与“力”关系的认识上，区别于迂腐的陋儒。关于张之洞此时的思想转折，辜鸿铭评述道：
“夫理之用谓之德，势之用谓之力。忠信、笃敬，德也，此中国之所长也；大舰、巨炮，力也，此西洋各国之所长也。当甲申一役（指 1884 年发生的中法战争，该年的干支纪年为甲申——引注），清流党诸贤但知德足以胜力，以为中国有此德必可以制胜。于朝廷遂欲以忠信笃敬敌大舰巨炮。而不知忠信笃敬乃无形之物也，大舰巨炮乃有形之物也，以无形之物攻有形之物，而欲以是奏效于疆场也，有是理乎？此知有理而不知用理以制势也。甲申以后，文襄有鉴于此，遂欲舍理而言势。然舍理而言势，则入于小人之道。文襄又患之，于是踌躇满志而得一两全之法，曰：为国则舍理而言势；为人则舍势而言理。”
这段话不仅点明了张之洞文化思想转折的枢纽所在，而且还透露出转折之后张之洞文化思想的两重性：“为人则舍势而言理”，即宏扬忠信笃敬的中国传统文化之德行以正人心；“为国则舍理而言势”，即吸收大舰巨炮等西方物质文化的成果以维国势。前者蕴含“中学为体”之旨，后者实蓄“西学为用”之意。在张之洞看来，这似乎是聪明的“两全之法”，殊不知其深刻的内在矛盾，从“中体西用”说孕育于洋务运动的胎盘中时，就已经决定了它的畸形病态。
光绪十五年（1889年），张之洞移节湖广。他的洋务事业，进入鼎盛期。湖北枪炮厂、汉阳炼铁厂、棉纱丝麻四局相继建成投产。与旧式书院改制的同时，包括普通教育、师范教育、职业教育在内的各类新式学堂开办起来。随着洋务活动的深入发展，张之洞对于西方文化之优长也有了进一步认识。他批评时人”皆知外洋各国之强由于兵，而不知外洋之强由于学。”他指出中华学术所缺乏的“专门之学”，恰是西洋富强的重要原因。“晚近来，惟士有学，若农、若工、若商无专门之学，遂无专门之材，转不如两洋各国之事事设学、处处设学。”他认为中国亟应仿效西洋，大力发展“专门之学”。他还划分“专门之学”为四大门类，即交涉、农政、工艺、商务。交涉之学包括律例、赋税、舆图、译书；农政之学包括种植、水利、畜牧、农器；工艺之学包括化学、汽机、矿务、工程；商务之学包括各国好尚、中国土货、钱币轻重、各国货物衰旺。这表明，在对于“西学”优长的肯定与仿效方面，张之洞已经超过曾国藩、李鸿章等洋务运动前驱先路，其广度和深度均有所展拓。
光绪二十年（1894年），甲午战争以中国方面的惨败而结束，举国震动。次年三月《马关条约》签订，给中国带来空前深重的民族危机。闰五月二十七日，张之洞上《吁请修备储才折》。这是一份甲午以后张之洞继续从事各项洋务事业的总纲性文件。其间反映出他对”中体两用”关系的认识己趋成熟。在这份奏折中，张之洞痛陈条约带来的严重危害：“及今力图补救，夜以继日，犹恐失之，若再因循游移，以后大局何堪设想。”他提出九条应当急办之事，以为“中国安身立命之端”：
一曰宜亟练陆军。“非一变旧法，必不能尽除旧习”。练兵三途中，“以用洋将管带教练为最速，以出洋学习功夫为最实，益处为最广，而中国自设学堂亦可相辅而行。”
二曰宜亟治海军。“且非用洋将则积弊必不能除，操练必不能精，考核拔擢必不能公。”“须多派精壮员弁及有志子弟赴英国学之，此举尤宜从速。”
三曰宜亟造铁路。此事应聘“小国远国商人”包办，“若中国自办，则委员视为利薮，旷时糜费，十年亦难成矣。”
四曰宜分设枪炮厂。“一面雇用洋匠，一面商之洋厂，派工匠赴外洋该厂学习。”
五曰宜广开学堂。”人皆知外洋各国之强由于兵，而不知外洋之强由于学。”各省均应开设学堂，“自各国语言文字以及种植、制造、商务、水师、陆军、开矿、修路、律例各项专门名家之学，博延外洋名师教习”，同时派人员出国留学，赴德学陆军、赴英学海军，“其他工艺各徒皆就最精之国从而取法。”
六曰宜速讲商务。“尤须令出使大臣将各国商务情形随时考究，知照总署及各省督抚，以便随时悉心筹画。”
七曰宜讲求工政。“世人皆言外洋以商务立国，此皮毛之论也，不知外洋富民强国之本实在于工。讲格致，通化学，用机器，精制造，化粗为精，化贱为贵，而后商贾有懋迁之资，有倍蓰之利。”“分遣多员，率领工匠赴西洋各大厂学习，一切种植、制器、纺织、炼治、造船、造炮、修路、开矿、化学等事，皆肄习之，回华日即以充办理工政之官。”
八曰宜多派游历人员。“不知外洋各国之所长，遂不知外洋各国之可患。拘执者狃于成见，昏庸者乐于因循，以致国事陆危，几难补救。”欲破此沈迷，惟有多派文武员弁出洋游历一策。
九曰宜豫备巡幸之所。宜择腹省远水之址建设行宫，以备战时京师危急，“进退自如，控制有策。”
张之洞上此奏折，目的在说服皇上”存坚强不屈之心，励卧薪尝胆之志，广求忠直之言，博采救时之策”，以挽救“如人受重饬，气血大损”的朝政之“体”。同为开明的地主阶级改革派，九十年代的张之洞大不同于三、四十年代龚自珍的“何敢自矜医国手，药方只贩古时丹”。在张之洞开出的九味汤剂中，除最后一条“豫备巡幸之所”外，全都在中国固有之“古时丹”中寻觅不出，而是援用的洋方洋药。虽然此时他还没有明确揭橥“中体西用”的标帜，但这一思想在他头脑中己是呼之欲出了。光绪二十四年（1898年）前后，张之洞开始将“中体西用”思想形诸笔墨。他在《两湖、经心两书院改照学堂办法片》中提出：“两书院分习之大旨，皆以中学为体，西学为用，既免迂陋无用之讥，亦杜离经叛道之弊。”稍后，他在上呈御览的《劝学篇》中，又对此思想作了进一步的阐述：“中学为内学，西学为外学。中学治身心，西学应世事。”中学为体，“以正人心”，西学为用，“以开风气”。
在考察张之洞“中体西用”思想的形成时，应特别注意到他自幼形成的“经世”、“务实”学风对其文化思想转变的促成作用。承袭“通经致用”学风的张之洞一贯认为，一切学术，“要其终也，归于有用”。“读书期于明理，明理归于致用”。从“致用”的终极目的出发，张之洞对待诸种学问，均以实用与否，为其臧否取舍的标准。即便在清流时期，他对于”洋务”、“西学”，也不像其他清流党人那样，持深恶痛绝的极端排斥态度，而认为“塞外番僧，泰西智巧，驾驭有方，皆可供我策遣。”与魏源辈的“师夷长技”说同论。因此，其时他对于洋务派的批评，也多集中在妥协外交，而非兴厂办学、开矿练军等实业措施。正是由于有这种“师夷长技”的认识基础，之洞才能开始日后的洋务实践，并从实用价值上，充分肯定西学的科学意义，并全力汲纳之、应用之。“经世”的宗旨，务实的学风，必然导致文化观的开放。之洞曾以诗句言及此理：井蛙不可以语海，夏虫不可以语冰。……见远儒乃尊，知时国乃兴，理非一孔尽，木非一法绳。往代儒宗判南北，方今学派别东西，九流宗圣皆容纳，巨海稽天赖指迷。
从这里，我们不难窥见早年张之洞即己服膺的“通经致用”论与之壮年后形成的“中体西用”说之间的内在逻辑联系。