李鸿章病情稍微好转之后，又与俄国谈判东北问题。义和团运动兴起后，使俄国在中国的利益受到冲击，俄军开始大举进入东北，控制了东北的局势。在联军进入北京的时候，俄国也参与进来。在和八国会谈的时候，俄国表示东北问题不纳入会谈内容，嚣张的气焰不可一世。
《辛丑条约》签订之后，联军都离开了北京。只有俄国还赖着不走，他们向清政府提出了更为苛刻的要求和条件。无奈的李鸿章，又开始与俄国人艰辛的谈判。逃亡在西安的慈禧给李鸿章发来电报说：李鸿章是为国操劳，忧愁和劳累导致的生病。希望他早日痊愈，“荣膺懋赏”。但是，李鸿章没有等到“荣膺懋赏”的那一天。
李鸿章临终前的六七天已经不能吃东西了，他躺在床上，容颜憔悴。这位在晚清政坛上呼风唤雨，周旋于列强之间的大人物，如今竟是那样的虚弱不堪。人们看不到那个奋斗了一辈子，坚强了一辈子，想用自己的最后力量来挽救大清国的一代名臣的力量了。
1901 年 11 月 6 日，李鸿章已经不能说话了。但是，家人轻声的呼唤，他还能答应。
1901 年 11 月 7 日，就在李鸿章逝世前的一个多小时，俄国公使还拿着文件来到李鸿章的病榻前，逼迫李鸿章在中俄交收条约上签字，甚至想强迫李鸿章的助手拿出李鸿章的官印。
李鸿章临终前，气若游丝。家人问他还有什么家事要交代，李鸿章没有说话。这时候，守在李鸿章身边的周馥和马玉昆二人，在旁边轻轻问起李鸿章：中堂大人，还有什么国事要交代的？仍是无语，但见两行浊泪，慢慢地从他紧闭的眼睛里流了出来。
在生命的最后一刻，李鸿章心中充满了深深的遗憾和苦苦的酸痛。他似乎在自责对沙俄的轻信，他在悲叹自己犯下的错误，他在担忧大清国今后的命运。
看到李鸿章闭上了眼睛，周馥大哭起来：“我还有话要对中堂说，您不能就这么走了啊！”谁知他这么一喊，李鸿章的眼睛突然又睁开了，把周围的人都吓了一跳。周馥只好安慰他说：“俄国人说了，中堂走了以后，绝不与中国为难！还有，两宫不久就能抵京了！”
李鸿章睁着眼睛张着口似乎还想说什么，身边的周馥再三对李鸿章说：“未了之事，我辈可了，请公放心！”李鸿章“目乃瞑”，享年 78 岁。李鸿章带着太多的遗恨和牵挂走了。
据周馥说，李鸿章病重时口述过一首诗：
正在回京途中的慈禧太后，听说李鸿章逝世的消息后，不禁失声大哭。这个祸国无已的老太太所为何哭？所失何声？她感叹道：“大局未定，倘有不测，这如此重荷，更有何人分担？”
朝廷给了死后的李鸿章以莫大的荣誉：谥号文忠，追赠太傅，晋封一等侯，国使馆要为他立传，在他当过官立过功的地方建立专祠。