李鸿章初次来到上海租界时，被租界那种种不同于京城的繁华所吸引。那异域风格的场所，那高大雄伟的建筑，又让李鸿章隐隐约约感受到了一种压力。洋人在领事馆内还养了很多动物，有牛、马、羊鹿，还有很多鸟。这些体形高大的动物悠闲的在馆内散步，神情举止也好似那些高傲的洋人。街上不时有身穿西式长裙的女士走过，她们举止优雅的神态和外国小孩灿烂的笑容，都使李鸿章强烈感觉到西方人生活的富足悠闲。此后，李鸿章多次考察比较中国和外国的情况，终于得出了中国如果想自立于世界列强之间，必须先“富”而后才能“强”的结论。
李鸿章立志于经办“洋务”。后来被史家称为“洋务运动”许多轰轰烈烈的事件，都与他有着直接或间接的关联。他的很多活动和功绩，成为“洋务运动”中最重要的部分。“洋务运动”兴起于19世纪 60 年代。由于太平天国的崛起和第二次鸦片战争的失败，一些有远见卓识之人提出了学习西方先进事务的主张。他们虽然出身、地位不同，但是有一个共同之处，就是在学习西方的同时，不摒弃中国的固有传统。在朝廷内部，也有一些大臣投入了“洋务运动”。其中，较有名气的有奕訢、文祥、曾国藩、左宗棠、李鸿章、张之洞，等等。这些倡导“洋务运动”的人，在近代史上被称为“洋务派”。李鸿章自从知道“利器”的妙用之后，就开始购买洋人的武器，可是买来的武器又贵又不够使用。于是，李鸿章产生了建立中国自己的军工企业的强烈愿望。而且他认为，更重要的是要培养一大批相应的军工人才。“才大心细”的李鸿章曾算过一笔账：一发英国的普通炮弹在市场上要卖到３０两银子，１万发铜帽子弹要卖到１９两银子。大清国凭什么要把白花花的银子给了洋人？
李鸿章这种美好的愿望，立即遭到了来自方方面面的反对。李鸿章写信给奕訢为首的总理衙门说：中国的士大夫每天沉醉于文章的词句和练习写小楷字，而武将多半是粗俗愚蠢之人。对于外国的武器，有人认为没有必要学习，有人认为学不会。在奏折中，李鸿章力陈己见，还这样描绘蒸汽动力运转的神妙：镟木、打眼、绞镙旋、铸弹诸机器，皆绾于汽炉，中盛水而下炽炭，水沸气满，开窍由铜喉达入气筒，筒中络一铁柱，随气升降俯仰，拔动铁轮，轮绾皮带，系绕轴心，彼此连缀，轮转则带旋，带旋则机动，仅资人力以发纵，不靠人力之运动。在几乎没人知道世界上有蒸汽机的大清帝国里，李鸿章能够如此细致地观察蒸汽机的运转原理，这着实令人惊叹。
在奕訢的帮助下，李鸿章的意见终于得到慈禧太后的首肯，允许他在“剿匪”的前提下，学习制造军火。从 1863 年起，李鸿章聘请一些有关武器方面的专家和工匠设立了“炸弹三局”。“炸弹三局”是指马格里主持的淞江洋炮局和苏州洋炮局，丁日昌主持的上海洋炮局。
丁日昌，字雨生。广东丰顺人。他曾任江西万安知县，当时李瀚章是丁日昌手下的赣南道。丁日昌因为万安失守被革职，投奔到曾国藩处当幕僚。曾国藩很欣赏丁日昌的才干。李鸿章组建淮军的时候，就想要丁日昌跟自己去上海，曾国荃则提出要丁日昌跟自己去攻打天京。曾国藩谁也没有给，把丁日昌和李瀚章一起派到广东去办理厘金了。当时还在到处寻找人才的李鸿章听说丁日昌在广东军营，已经督制出了大小炮硼 36 尊，子弹 2000 多颗，十分羡慕。心想如果能让他来主持炮局就好了。李鸿章于是使劲追着曾国藩要人，终于奏请朝廷批准把丁日昌调到上海主持炮局。事实表明，丁日昌办的炮局最有成效，它能制造“田鸡炮”（迫击炮），还有能发射 80 磅炮弹的“开花炮”。后来丁日昌一直在李鸿章身边做李的得力助手，成为“洋务运动”的积极实行者。
“炸弹三局”生产出来的各种炸弹源源不断地被送到前线，给李鸿章消灭太平军提供了有力的保证。并为李鸿章日后创办江南制造总局、金陵机器局积累了经验。江南制造总局又称上海机器局，成立于 1867 年 9 月。以生产枪炮弹药为主，后来能修船造舰，成为综合性的新式军用企业。金陵制造局，是把以前马格里主持的苏州洋炮局迁到南京建立的。到南京后，规模扩大，生产能力也提高。主要生产各种口径的大炮、炮弹和子弹，还生产其他军用品。李鸿章创办的金陵制造局生产的大炮和炮弹。江南制造局和金陵制造局，都是制造军用器械的兵工厂。它们用蒸汽机作为动力，以机器为工具，雇佣了一批工人，这表明中国出现了一种新的社会生产力。这两个局的资金都来自清政府的财政划拨，生产的武器弹药，都归湘军和淮军以及其他各省等队使用。它们不参与市场竞争，不产生直接利润。这种先进的生产力结合官僚专制式的管理，实际上是一种官僚资本。有些研究者认为，在社会生产力极为低下的某种特殊环境下，这种官僚资本的介入，对经济与社会的发展是有益的。