同治十年十一月二十二日（1871年1月2日），经过了5年的时间，由李鸿章、马新贻规划重建的两江总督衙门终于落成了。督衙在原洪秀全的天王府的基础上修建，其规模无法与先前的天王府相比，但比起原来的两江总督衙门要阔绰、豪华多了。总督搬进新署（原于盐道衙门办公）应该是一件大的喜庆之事，庆祝、摆宴自不能少，但曾国藩却一点也提不起精神。贺宴上他只是反复说：“太奢了！天道忌奢！天道忌奢！”他再三嘱咐总管要在署东开出菜地来，种上蔬菜。他要亲自劳作，以抵几分奢靡。
江南的冬天虽然不像北方这么寒冷，但坐在新建的署衙里，曾国藩总觉内心无比空旷、凄寒，随之也觉病情加重。肝区阵阵疼痛，头晕目眩，两脚麻木，失眠、噩梦不断。他意识到自己将不久人世了，想着要交代点后事，于是赶紧写信给李鸿章。想到李鸿章，心里宽慰多了：庆幸自己有这么个可接班的学生。
他这半生开创的事业终于有了接班人：湘军裁撤了，腐败了，李鸿章的淮军成了支持清朝的顶梁柱；自己打不过捻子，由李鸿章战胜了；天津教案自己弄得议论纷纷，而李鸿章却将此案完满了结；洋务事业自己仅仅开了个头，而李鸿章正在大举进行。“青出于蓝而胜于蓝”，学生胜于老师，这正体现老师识才育才的本事，若是学生总是不如老师，一代不如一代，事业还怎么前进呢？当跟前出现对李鸿章的非议时，曾国藩总用这句话制止。他这不是借此自慰，心里也真是这么想的。他也佩服李鸿章，他虽对李鸿章的过分热衷功名利禄有些看法，但也总是宽容的。
李鸿章接到对他恩重如山的老师的信，尤其读到“此次晤面后或将永诀，当以大事相托”时，深恐老师或有不测，不能见上最后一面，将成终身憾事，便不顾年关已近，百事丛杂，冒着严寒，长途跋涉，由保定赶来江宁。
那时，送第一批留学生出国的事还没有最后敲定。师生见面第一件事是进一步会商幼童出洋之事，认真推敲细节，再度联衔上奏，强调这是“徐图自强”的根本大计，中华创始之举，务必让朝廷重视，以达预期效果。李鸿章根据老师的指点，未经文案，执笔立就。曾国藩看了这两千余字的奏稿，条理缜密，文笔洗练，心里很是高兴，仅改数语便让李鸿章亲自带去呈递。
写好了奏折，曾国藩看到自己的事业后继有人，有些兴奋地向这个得意门生讲起往事，归纳自己的人生教训，最终向李鸿章交代了两点，让他切记。
一是他非常后悔当年迫于朝廷的压力主动要求裁撤湘军。他自认自己顾虑太多，湘军攻战十余年之久，金陵克捷后，慑于各种压力，竟至于解散了亲手建立的军队，自坏长城，寒了将帅的心，等于实际上的自杀。湘军众将飘如秋叶，而自己也成了剪翼之鸟，以致“剿捻”无功，备受挫辱。幸赖李鸿章所建淮军，攻灭了捻军，成就了大事。他让李鸿章切记自己的教训，当今八旗、绿营再不可恃，保太后、皇上之安，卫神州华夏之固，全仗淮军。今后，淮军有被议论的那一天，千万不要像老师那样，畏首畏尾，只可加强，不可削弱。乱世之中，手里的军队切不可放松，于家于国都是如此。
第二点，也正是他安身立命的前提，就是以身作则，身正心正。他让李鸿章切记，即数十年办事之难，难在人心不正，世风不淳，而要正人心，淳世风，实赖一二人默运于渊深微莫之中，使其后来者为之应和。
他说自己与李鸿章的关系正是这样，自己先正己身，同时培养后人，把这些人作为“种子”，期待这些后人开花结果，应现承先启后，天下应和之目的。所以，他希望李鸿章要早些下手，以一身为天下表率，多多培养“种子”，种子绵延不断，天下应和，世风自然改变。
李鸿章心领神会，为了让老师对身后事放心，忙问他：“今日之天下，哪些人可作为以后培植的‘种子’？”曾国藩似乎不想交代，思考良久，认为再不说怕以后永无机会，于是才说，海内第一号人物当数左宗棠。他雄才大略，待人耿直，廉洁自守。李鸿章听了感到不解：因为曾、左七八年不通闻问，外人都说他们有矛盾，为何老师竟说他是第一号人物？曾国藩说，左宗棠与他争的是国家大事，不是私情，左“知人之明，谋国之忠”，正是他的长处。李鸿章听了，连连点头。曾国藩认为左宗棠之后当数彭玉麟，他光明磊落，疾恶如仇，淡泊名利，重视情义，是天下的奇男子。其次是郭嵩焘，其人之才，天下难有其匹者，而且非书生之才，将来会有发展。再往下数如刘长佑心地端正，沈葆桢很有能量，但心地狭窄。而后，他们又议论了办洋务之事。曾国藩强调洋务怎么办都好，但一定要抓住一点不放，就是冯桂芬说的“以中国之伦常名教为原本，辅以诸国富强之术”。
师生之间非常融洽地相处了几天后，由于春节将近，年关临近，李鸿章不得不辞别曾国藩赶回直隶。同李鸿章长谈之后，也许是兴奋过度，他的旧病复发了：头昏眼花，耳鸣不止，一连几天不能开口说话。
大年三十这天，江宁（南京）城的衙门、商号和有钱人家的大门口张灯结彩、楹柱上旧桃换新符，秦淮河更是热闹，红男绿女，画舫丝竹。或许是节日气氛的冲动，曾国藩才感到身体轻松了许多。大年初一早上，他接受了江宁文武的祝贺。第二天他又到退居江宁的老友吴廷栋家拜年，同吴廷栋兴致勃勃地谈经论道。
一轮访亲探友过后，转眼就是元宵节了。曾国藩没有忘记，正月十四是道光皇帝宾天的日子，他永记道光帝对自己的知遇之恩，每年这一天都要为他烧香行礼。这天，他勉强行了三跪九叩大礼，觉得十分疲倦，刚一坐下，眼前便浮现23年前那一天的情景来：那年自己是39岁，礼部右侍郎，二品大员。也是正月十四日，突然传来皇上要立太子的消息。曾国藩听了大吃一惊，他知道皇帝立太子是什么意思——大清朝秘密立储，立太子即是太子登基，也就是皇帝龙驭上宾了。曾国藩还想最后同道光见上一面，赶紧备马前行，然而马车刚到圆明园，便听到一片哀哭之声，他知道再也见不到对自己恩重如山的皇帝了。道光驾崩，咸丰继位，接着是罢黜穆彰阿，清查穆党，他虽是穆的得意门生，但因穆在得意之时，门生很多，并未一一清算，所以没有牵连到他。然而，道光死后，穆彰阿被罢，咸丰不信任他，也无人替他说话，使他以后办事处处碰壁。每至事机不顺，尤其咸丰、慈禧不时对他进行冷遇、打击之时，他更加思念道光帝和穆彰阿。
在往事的回忆中，曾国藩平静度日。1872年3月5日，前河道总督苏廷魁告老回老家广东，路过金陵，派人传过音讯，想拜见一下曾国藩。对于这位素来敢于直谏的同年进士，曾国藩一直颇为敬重。此番见苏廷魁告老还乡，曾国藩破例亲自出城迎接。寒气袭人的天气里，两个同病相怜的垂暮老友，回忆起数十年来经历的种种，不免欷歔。曾国藩告诉苏廷魁，来两江的这些日子，虽然身体不是太好，但心情畅达多了，他准备再次向朝廷告老还乡，在家看书作文。为了证明自己一直没有耽误学问，曾国藩从座位上站起来，为苏廷魁背诵四书以助兴。只是刚背了几句，曾国藩突然手脚痉挛，口吐白沫，倒在地上。随从们慌忙将他送回府中。这一次中风比上次严重得多，曾国藩从此卧床不起。这次曾国藩意识到，自己虽一生叱咤风云，却将离开这个为之奋斗了一生的世界了。通过眼前影影绰绰的一切，曾国藩似乎看到自己的末日，末日像一个巨大的黑洞，等待他自投罗网。
他自认为自己的一生，没有遗憾：该做的，都全力去完成了，今后的事情，将来会怎样发生呢？国家，让他忧心。对于死亡，曾国藩并不觉得可怕，一个人，从哪里来，终究还得回到哪里去。至于那个神秘的出处或者归宿，靠人的智力，是无法揣测的。对于死，曾国藩一直不愿意多想，也懒得去想。曾国藩的生死观跟孔子是一样的，孔子在《论语》中所说“不知生，焉知死”、“敬鬼神而远之”，曾国藩一直也持这样的态度。行动不便的日子里，曾国藩一直坚持写日记，有时候实在写不动了，就停下来，翻阅以前的笔墨，回忆当时的情景与心绪。时间，真是一个奇怪的东西，它无法捕捉，稍纵即逝，至多，只能让它变成纸上的几行文字，雪泥鸿爪，无从谈起；甚至，连回忆起来，也显得那样吃力。曾国藩无法想象，自己消失后的世界会是什么样子。这个世界会跟自己一同消失吗？
他从青年时代开始就有写日记的习惯，这天，他在日记中写道：“余病患不能用心。昔道光二十六七年间，每思作文，则身上癣疾大作，彻底不能成寐。近年或欲作诗文，亦觉心中恍惚不能自主，故眩晕、目疾、肝风等症，皆心肝血虚之所致，不能溘先朝露，速归于尽，又不能振作精神，稍治应尽之职责，苟活人间，惭悚何极！二更五点睡。”
3月8日，曾国藩在日记中继续写道：“余精神散漫已久，凡遇应了结之件久不能完，应收拾之件久不能检，如败叶满山，全无归宿。通籍三十余年，官至极品，而学业一无所成，德行一无所就，老大徒伤，不胜悚惶惭赦！”
即使已经到了油尽灯枯的时候，他也依然忧国忧民。这一段日记是曾国藩心理真正的反映。的确，由于身体不佳，心绪不好，曾国藩对于生活，着实有点厌倦了。实际上也不是现在，对于曾国藩来说，从悟彻生命的那一天起，对于人生，就有着复杂无比的感受了。其中，当然夹杂着厌倦和疲惫。人生，只不过是一个过程，白驹过隙，匆匆忙忙。生命的偶然在巨大的未知面前，是那样的无力和虚弱。很多时候，曾国藩只不过是以极度的恭敬心在对待这个巨大的未知。孔子所说的“不成功，便成仁”，也是一种感悟吧？在曾国藩看来，所谓“仁”，就是核心，就是果核。人的“仁”，也即人最根本的东西，是与天地的核心相同的。这种本质的东西，就是人的真正由来和归宿。人生一世，真正地找到自己的“仁”，才是最重要的。只有找到自己，才能算是“求仁”。联想到自己，曾国藩感慨万千：不管怎么样，自己这一辈子，鞠躬尽瘁，克己复礼，这一切，可以算是“求仁”了吧？在《论语》中，弟子问孔子，伯夷、叔齐死前有没有悔意，孔子说：“求仁得仁又何怨！”这是说“二圣”的，更是说自己的——现在，在曾国藩看来，这句话同样也可以用在自己身上，是对自己一生的最妥帖的总结。
有资本来总结的一生，也算不枉来人世了。这时候，曾国藩的身体状况已变得相当糟糕了，人的元气，都是先从脚底下溜走的，这一回，曾国藩真的有切身感受了——他感到自己的脚已不听使唤了，仿佛从小腿肚以下，已不属于自己了；此外，就是舌头变得僵硬，口腔里像有一块坚硬的石头一样，将自己塞得严严实实，都快让人喘不过气来了。好在曾国藩的神志一直都很清醒，他的内心也很平静，所以没有什么失态之举。只是恍惚之间，那些鸟鸣狗吠，听起来已恍如隔世了。自己的身体已成为一间空空无人的老屋，那个一直在里面住的东西已经离开。曾国藩不由为自己的极度敏感而感叹，也许，一个人在最虚弱的时候，自然会生发出数百倍的感受。
3月10日，强烈的责任心使曾国藩寝食难安，想起今后国家的发展方向，他陷入深深的忧虑中。他挣扎着起来，披衣来到了书桌前坐下，拿起笔，很想写点东西，不料手颤抖得非常厉害，毛笔在纸上洇了很大一块；曾国藩想说话，但嘴唇嗫嚅着，已发不出声音。家人把他扶上了床，喝了几口水后，曾国藩稍稍缓过神来了，他不住地向身边的曾纪泽叮嘱：我死之后，丧事遵照古礼，不要请僧人、道士。
3月11日一早，行将就木的曾国藩还想着学习的事，知识对于他来说就是生命。他仍强行起身，然后，披衣端坐在案前，阅读《理学宗传》中的《张子》一卷。这本书，曾国藩已读过很多遍了，但每次读，曾国藩都有一些新感受。宋儒当中，曾国藩最喜欢的，就是张载了。张载学富五车，涣然自信，“为天地立心，为生民立命，为往圣继绝学，为万世开太平”，这样的情怀，对曾国藩影响很大。更可贵的是，张载的学说摒弃了很多条条框框，以儒为宗，同时又吸取了佛、道的很多成分，不拘泥某种门派，有着广阔的游弋空间。一个人，有如此博大精深的思想，才算得上以天地为师，是一个真正的“通人”。曾国藩看了一会《张子》，又感到手摇心颤。家人忙扶他在榻上躺了一会。当天晚上，金陵的街道上，有很多行人看见一颗大星从上空弧线滑落，不由大惊失色，一时议论纷纷。
同治十一年（1872年）二月初四，即1872年3月12日这天，天空云层密布，一大早，就飘着绵密的小雨，淅淅沥沥的，仿佛一心想让人断肠似的。曾国藩早早地起床了，他清晰地记得，这一天是他祖父曾玉屏的祭日。上午，曾国藩在家人的搀扶下，躬身拜过设在家中的祖父牌位。
午后，连日颓靡的曾国藩似乎觉得精神好些了，示意要出去走走。儿子曾纪泽搀扶着曾国藩来到总督府西花园，在长廊里散着步。西花园又叫煦园，面积很大，尤其是水景，堪称一绝。水域四周，有东榭西楼隔岸相望，有南舫北阁遥相呼应，花间隐榭，水际安亭，堪称园林中的经典之作。园内还有石舫、鸳鸯亭、夕佳楼、东水榭、桐音馆、印心石屋、诗碑等十余处胜迹。曾国藩在园中蹒跚着，一边走一边颤颤巍巍地对曾纪泽说：“我这一辈子打了不少仗，打仗是件最害人的事情，造孽，我曾家后世再也不要出带兵打仗的人了。”父子俩说着话，这时候雨已经停了，两人来到了廊外，不知不觉走进一片竹林。忽然，一阵大风吹来，曾国藩连呼“脚麻”，便歪倒在儿子身上。曾纪泽和随从慌乱地把曾国藩扶到书房的椅子上。曾国藩端正了衣服、帽子，然后静静地坐在那儿，一点声音也没有。三刻钟后，曾国藩气绝身亡。
曾国藩走得安然，走得静谧。他去世的消息传出后，朝野震惊。清廷追赠曾国藩为“太傅”，恩赐谥号“文正”，照大学士赐恤，同时赏银三千两治丧；入祀昭忠、闲良二祠，并于湖南湘江、江宁金陵建立专祠；生平政绩事实，宣付国史馆；一等侯爵即着子曾纪泽承袭。
曾国藩的师友们闻此噩耗，都纷纷表示哀悼，一时间，挽联、祭文堆积如山。由于人数众多，祭奠活动足足持续了百日才告结束！与很多大人物的情况相似，那些挽联、祭文大都不着边际、夸大其词，有的纯粹是敷衍了事的客气话。倒是左宗棠、李鸿章和郭嵩焘各自根据自己与曾国藩之间交往的经历所题写的挽联颇为深情：
谋国之忠，知人之明，自愧不如元辅；
同心若金，攻错若石，相期无负平生。
——左宗棠
师事三十年，薪尽火传，筑室忝为门生长；
威震九万里，安内攘外，旷代难逢天下才。
——李鸿章
论交谊在师友之间，兼亲与长；论事功在宋唐之上，兼德与言，朝野同悲唯我最；
考初出以夺情为疑，实赞其行；考战绩以水师为最，实主其议，艰难未预负公多。
——郭嵩焘
从某种程度上说，曾国藩的死是一个标志，那个颇有尊严、文雅、自闭、自给、自享、道德至上、鄙视物质、洁身自好的时代，在曾国藩逝去之后，已瞑然消逝。世界进入一个新的时代：那是一个光明的时代，也是一个黑暗的时代；是最美好的季节，也是最糟糕的季节；是信仰的时代，也是怀疑的时代；是富足的时代，也是贫乏的时代……在此之后中国很长时间风雨飘摇的历史，都适合这样的表达。只是那个湖湘大儒看不到这一切了，他的灵魂正缥缈地飞翔在空中，那股巨大的悲怆之气慢慢地烟消云散。一个人解脱之后，当然不愿意再回首。这个世界，已不属于他了，只是一个叫做曾国藩的人的所作所为，至今还让人难以忘怀。
