李鸿章抵户 17 天，即 4 月 25 日就奉命署理江苏巡抚，仅仅过了 7 个月，又由署理而实授江苏巡抚。“从此隆隆直上”，几与恩师曾国藩“双峰对峙”。李鸿章所以能够从一个遗缺道而骤膺封疆重寄，主要是由于他手握重兵和曾国藩举荐的缘故。清廷既欲借重李鸿章的淮军绞杀苏南太平军，又要依靠曾国藩集团保全东南大局。早在 1861 年 12 月 26 日曾国藩就在《查复江浙抚臣及金安清参款折》中，指责江苏巡抚薛焕“偷安一隅，物论滋繁”，“不能胜此童任”，并附片奏保李鸿章“劲气内敛，才大心细，若蒙圣恩将该员擢署江苏巡抚，臣再拨给陆军，便可驰赴下游，保卫一方。”清廷自然懂得曾氏用意，而李鸿章也十分清楚个中奥秘，于是致书曾国藩说：
十月二十五日（1862 年 12 月 16 日）………戌刻接奉廷寄，十二日（12月 3 日）奉旨补授苏抚，恩纶奖励，非分宠荣。自顾何人，愧悚无地。此皆由我中堂夫子积年训植，随事裁成，俾治军临政，修己治人，得以稍有涂辙，不速颠覆，……实不知所以为报，伏乞远赐箴砭，免丛愆咎。当时清廷任命薛焕为通商大臣，专办交涉事宜。但只过两月，清廷就调薛焕赴京简候，而令李鸿章署理通商大臣。这样，李鸿章就成为手握重兵、身兼巡抚和通商大臣要职的江苏实权人物。
当时年仅 40、肩负重任的李鸿章，面临着严峻局势，正如他自己所说的那样，“岛人疑谤，属吏蒙混，逆众扑窜，内优外侮，相逼而来”。他深知歼灭太平军、保住上海进而夺取苏常，是转危为安的关键所在，而要做到这一点，就必须妥善解决“察吏、整军、筹饷、辑夷各事”。他标榜以“不要钱，不伯死”六字“刻刻自讼”，卧薪尝胆，不敢苟慕荣利，少聆逸乐，决心冲破“险阻艰危”，闯出一个新局面，以“仰酬君国，远对友朋”。因此，他“日处营中，自朝至夜，手不停披，口不息办，心不辍息。”几乎无暇与四方友朋交游和书信来往，只同曾国藩保持通讯联系。他使出浑身解数，力图尽快扼杀农民起义。
同全国一样，江苏“吏治浮伪，民生凋瘵，劫运甚重”，李鸿章“夙夜兢兢，惟惧颠复。”他认为曾任江苏按察使、布政使而后升任巡抚的王有龄（字雪轩）是造成江苏吏治败坏的祸首。他说：
吴中官场素习浮靡，自王雪轩当事，专用便捷、圆滑、贪利、无耻一流，祸延两省，靦然不知纲常廉节为何物，其宗派至今不绝。
当时吴煦身为苏松太道管理海关，并署理江苏布政使。他出务“钱谷猾幕”，而其“用人则是王雪轩宗派，沪吏十有七八系浙人勾结把持，直是无从下手。”杨坊“以通事奸商起家”，时任苏松粮储道，综理“夷务”。吴、杨沆瀣一气，“挟夷自重”，控制上海的人事、财政和外交大权。他们手下有一帮搜括能手，金鸿保、俞斌、阂钊就是三个典型人物。1861 年秋在上海道署门前有人画一大龟，以俞斌为首，金鸿保为背，阂钊为心腹。1862 年李鸿章也指出：“沪中十年来发公家财，惟吴、杨、俞三人，远近皆知。”他虽然有意“澄清”“吏治”，但又深感力不从心，无法“另起炉灶”，只得采取所谓“节取而惩劝之”法。他上奏说，“苏省吏治凋敝，监司大员必须有文武干济之才、廉正敦慤之品为之表率，庶可渐挽颓风。”他的真实意图是想把那些盘踞要津、控制实权的“贪诈朋比”之辈撤下去，换上所谓“亲近仁贤，匡所不逮”，以便把人事、财政和外交大权抓到自己的手中。因此，吴煦、杨坊之流就成了李鸿章打击的首要目标。早在李鸿章离皖赴沪之时，曾国藩就曾叮嘱说：“不去煦，政权不一，沪事未可理也。”李鸿章抵沪后，便向吴煦及其同党开刀。他首先“疏劾道府数人，去煦羽翼”；接着采取关厘分途、以厘济饷的政策，与吴煦“明定章程”，海关仍由吴氏经理，另派薛书常管理厘捐总局。1862 年 11 月又免去吴的苏松太道（即关道）一职，委派黄芳接替。黄芳（号鹤汀）是长沙人，当过上海县令，“熟谙夷情，才能肆应，善于筹饷”。李鸿章在奏准黄芳署理关道的同时，荐举刘郇膏兼理布政使。刘郇膏（字松）是河南太康人，道光进士。以知县分发江苏，初到任时，即对神发誓不苟取一文，绅民呼为“刘青天”。李鸿章抵沪后，鉴于郇膏“诚慤廉正”，并为丁未同年，便从知府相继荐举为署理按察使、布政使。李鸿章对曾园藩说：“刘、黄才虽较短而无丝毫欺蒙，沪中吏治渐有返朴还醇之象。”
李鸿章对杨坊也深恶痛绝，必欲罢之而后快。杨坊效法吴煦玩弄以退为进的伎俩，于 1862 年 5 月“禀请开苏粮道”，李鸿章将计就计，“照例出奏”，并附片密荐郭嵩杰，赞扬他“学识阂通，志行坚卓”，建议擢授江苏司道实缺。他致函曾国藩说：“鸿章亟需帮手，冒昧将筠仙附荐，臬司粮道两缺或得其一。敬恳我师切致筠公速来”。李鸿章所以特别推崇郭嵩焘，除了他俩是丁未科同年、政治见解相似外，还由于郭嵩焘能够起到密切曾、李关系的作用。曾国藩与郭嵩焘既是亲密朋友，又是儿女姻亲，曾国藩四女纪纯许配给郭的长子刚基。郭嵩秦起初不愿屈就丁未同年的司道属员，后经李鸿章的恳切请求、曾国藩兄弟的再三劝驾，才赴沪接任苏松粮道。按清制，郭嵩焘不能在儿女姻亲曾国藩两江总瞥辖区任职，例应回避。1862 年 11 月李鸿章以江苏军务正殷、需才孔亟为由，奏准郭嵩焘勿庸回避，即以苏松粮道襄办军务。随后又函告曾国藩：“筠仙到沪后，众望交孚，其才识远过凡庸，运、藩二篆均可见委，惟至亲避嫌，鸿章以襄办营务入告，似尚大方。拟仍令兼管捐厘总局，以资历练。”不到半年，李鸿章就函请曾国藩奏保郭嵩焘为两淮盐运使，还拟荐举他兼任江苏按察使。这样，李鸿章就逐渐以郭嵩焘、刘郇膏和黄芳取代了吴煦、杨坊，并于 1863 年 1 月以常胜军统领白齐文劫饷殴官而吴、杨办理不善的罪名，奏准将吴、杨暂行革职，赶下政治舞台。
李鸿章自从创办淮军和就任江苏巡抚以后，就效法曾国藩开设幕府，延揽人才，救时匡国。他既是幕府制度的产儿，又是幕府制度的熟练运用者，他个人的职位、财富和品性，成为他的幕府赖以存在的三大支柱。李幕以统帅李鸿章为中心，肩负着军机、刑名、钱谷、文案等重任。幕府人物重要者多由奏调，或从属吏中特委兼办；次要者或函招，或札委，或自来投效，或辗转推荐，均以统帅为礼聘的主人；其工作俱受统帅分配督导，其地位既为私人宾席，又可随时因功奏保升涉，授以实缺；其薪给不尽为修金，大半由所属局所或军营供给，虽非官俸，亦非出自统帅的私囊。李幕虽然效法曾幕，但在幕宾的选择上却有明显区别。“满量豪翰济时彦，得上龙门价不贱。”这是李鸿章吹嘘曾幕人才荟萃的诗句。曾幕确实聚集了一大批虽然动机不同但却具有各种才干的人物，其中有精通数学、天文、机器制造的科学家，有谱习律令、会计的刑名、钱谷之士，有崇儒重道的道学先生，有深悉文案之道的文学侍从，有懂得军机韬略的参谋人员。但是，李鸿章用人却“取瑰异俶傥，其拘守文墨无短长者非熹。”他从实际需要出发，把能力置于道德之上，注重罗致经世致用、精明练达之士，而很少聘请道学先生和文学恃从。他对应聘入幕的人员，多能量才而用，发挥专长。比如，他延揽被誉为“操行贞笃，条理精密”的钱鼎铭、“精思卓识，讲求经济”的冯桂芬襄办营务；招致号称“学识轶伦，熟悉洋务”的凌焕、“才识宏远，沈毅有为”的周馥办理文案。值得注意的是，李鸿章由于断定“洋军火及捐厘，尤为敝军命脉所系”，因而在征收厘捐和购制洋军火两方面，网罗和动员的幕僚就比其他部门为多，其中著名人物有先后主持江苏牙厘总局和松沪厘局的薛书常、王大经、郭柏荫、陈庆长、王凯泰，主持后路粮台的陈鼐，主持军火购制的丁日昌、冯焌光等。李鸿章对这些幕宾格外器重，赞誉薛书常“廉慤明斡”，王大经“操守廉介”，郭柏荫“老成雅望”，陈庆长“精核廉敏”，王凯泰“开明精细”，陈鼎“学养深这”，丁日昌“才猷卓特”，冯焌光“才气开展”。从李鸿章的评语中，可以看出这些幕宾具有廉洁、精明和干练等特点，其中丁日昌、王凯泰、郭柏荫三人更富于典型性。他们与李鸿章志同道合，声气相求，既依靠李氏而爬上督抚宝座，又凭借个人才智为淮系发展作出重要贡献。丁日昌（字雨生）系贡生出身，作过江西县令和曾国藩幕僚。李鸿章赏识其才，早在援沪之初，就曾“求之幕府相助”而未果。1862 年丁日昌奉命至广东提督昆寿军营“协助筹划战守，督办火器”。但是李鸿章并未气馁，先向粤省吝调被拒，继而于 1863 年专折奏准来沪，经理军械火药购置与制造。从此丁日昌扶摇直上，1864 年升署苏松太道，后历摧两淮盐运使、江苏布政使、江苏巡抚，四年四迁，后曾任福建巡抚、船政大臣。王凯泰（字补帆）是江苏宝应人，道光三十年进士，1863 年经李鸿章奏准襄办营务处、江苏牙厘局，后升任福建巡抚。郭柏荫（字远堂）也是道光进士，1863 年李鸿章以僚属调用，先后署理江苏按察使和布政使，兼办厘务，继而升任湖北巡抚，并一度兼署湖广总督。
李鸿章依靠这个班底，确实基本上解决了购制军火和捐厘胁饷问题。先拿捐厘助饱来说，李鸿章自从采取关厘分途、以厘济饷政策以后，就置“商怨沸腾”于不顾，“百计搜剔，无孔不入”。他虽然承认“各省厘捐之重，无如上海”，但仍不断下令加征。及至督军挺进苏南以后，每侵占一地，“即酌添卡局，以济军饷”，结果“分卡之密，近于烦苛”。当时江楚各省厘金每年不过百数十万，而苏松 2 百余里内却岁收厘捐近 3 百万。常熟柯悟迟抨击道：“关卡重重，抽厘叠叠”，“实在有益于军饷者不少，竭膏血于小民者亦多。”1867 年曾国藩供认：“苏南厘金之弊，怨默繁兴。”“饷源所恃，仅在厘金，征敛百端，民穷财尽，此大乱之道，已在眉睫。”但因苏省厘金皆为李鸿章“之所设施，投鼠忌器，不得不包荒示大”，徒呼奈何。
李鸿章为了给“怨默繁兴”的捐厘助饷辩解，公然说“与其病农，莫如病商，犹得古人重本抑末之义。”
当然，李鸿章着眼于“捐厘助饷”，并非不想染指关税。江海关关税，循例应解户部。但从太平天国与清朝之间的战火漫延到长江下游以后，就改为“尽所收厘捐关税抵放军需”。及至李鸿章就任苏抚，江海关关税除了按照中英、中怯北京条约的规定，扣还英、法两国赔款共计 4 成外，其余 6 成主要用于筹还代征的汉口、九江两关税款、支付镇江防军、常胜军、上海中外会防局用款和上海水陆各军购制洋枪火药费用。其中购制洋枪火药一项，淮军因系上海水陆中消费军火的首户，所以受益最大。根据李鸿章“恭呈御览”的清单，可以看出自同治元年四月起至同治三年六月底止（大致是从淮军抵沪到湘军攻陷天京这段时间），苏沪军需款项，入款总数为库平银 9，480，207 两，其中厘金收入 6，439，000 余两，占总收入的百分之五十六，为第一位，关税为第二位；支出列为常胜军报销项下的有江海关洋税、捕盗局经费和苏藩库， 而列为以淮军为主体的苏沪驻军报销项下的则主要是苏沪厘金和军饷捐，当然常胜军也支用些厘金，苏沪驻军也并非丝毫不支用关税。据推算，“如在全部人款中，剔除常胜军等五项的入款，再在厘金收入总数中，剔除常胜军等所支用的厘金，则厘金所占苏沪诸军用款应为百分之六十四。”
曾国藩荐举李鸿章率领淮军援沪的目的之一，是守上海以保饷源。李鸿章刚刚抵沪，曾国藩就提出：“上海所出之饷，先尽沪军，其次则解济镇江，又欢乃及敝处。”李鸿章起初采取临时协济方式，抵沪半年，就两次协济湘军 9 万两。但是曾国藩并不满足，要求“每月酌提四万，万不可减。”李鸿章于 1863 年春特地为湘军筹定专款，以上海所收九江茶捐指拨金陵大营，以加收上海厘金 1 成指拨安庆大营，两项合计大约每月 3 万两，另外加上原有的一些船捐。曾国藩预感到每月从上海酌提 4 万，“恐不免大有争论”。果然不出所料，李鸿章“意甚不平”，在写给曾国荃的书信中“牢骚满纸，至有‘东门黄犬，其可得乎’之语”。
李鸿章凭藉手中的军政大权，横征暴敛，既基本上解决了淮军的饷需问题，又以大批金钱和物资支援了湘军在西线进行的战争。
李鸿章在抚苏期间，还与赵家缔姻，完成了再婚这柱终身大事。他的原配夫人周氏，生有二女，名曰镜蓉、琼芝，因膝下无子，其弟昭庆便把经方过继给他。1861 年夏李鸿章在重返曾幕路经万年（江西饶州府）时，曾赋诗寄怀，诗云：
他以生动的笔触，抒发了投笔从戎、前路崎岖的感慨和思念女儿的骨肉之情，反映了渴望早日结束战乱、重享天伦之乐和娇女成长为像东晋女诗人谢道祖那样”咏絮才”的心声，情真意切，凄楚动人。不料，是年 9 月周氏去世，两个女儿失去了母亲，爱妻去矣，娇女孤，突如其来的打击，使李鸿章肝肠忧煎，感伤不已。在此后的两年多时间里，由于戎马倥偬，使李鸿章无暇顾及个人婚事。1863 年 12 月李鸿章在夺取并移驻苏州之后，认为苏南战事即将胜利结束，重建家庭的时机已经到来，因而便于 1864 年，1 月迎娶赵氏为继室。赵夫人（1838—1892），名莲儿，籍隶安徽太湖县，出身仕宦之家，其父赵畇，道光进士，是李文安的好友，李鸿章回籍办团练时的同事。李瀚章为之请媒求婚，赵畇欣然许之。李鸿章特地请长妹陪同老母前来主持婚礼，在完婚之后，长妹又调和于婆媳之间。李鸿章说：“继室未谙姑起居，颇虑不得吾母意，妹左右导迎之，妇姑相待尤欢。”赵夫人比李鸿章小 15岁，生三男一女，即经述、经远、经迈和菊耦。她是一位深受封建礼教薰陶的贤妻良母型的女性，李鸿章对之宠爱有加，赞扬她“奉侍慈闱，经理家政，礼法秩然，贤明之称，中外无间”，使自己“藉免内顾之忧”。