同治十一年（1872年）二月初四日，这是一个令曾国藩悲痛的日子。15年前的二月初四，他的父亲去世了，这天，他拜过父亲的牌位，让儿子纪泽扶他去花园散步。他对纪泽说：“我这辈子打了不少仗，打仗是件最害人的事，造孽，我曾家后世再也不要出带兵打仗的人了。”父子俩拉着家常，不知不觉走近一片竹林。忽然，一阵大风吹过，曾国藩连呼“脚麻”，便倒在儿子身上。扶进屋时，曾国藩已经不能说话了。他用手指指桌子：那是他早已写好的遗嘱。曾纪泽双手把纸展开，以颤抖的声音念道：
“余通籍三十余年，官至极品，而学业一无所成，德行一无可许，老人徒伤，不胜悚惶惭赧。今将永别，特立四条以教汝兄弟。
一曰慎独则心安。
二曰主敬则身强。
三曰求仁则人悦。
四曰习劳则神钦。
此四条为余数十年人世之得，汝兄弟记之行之，并传之于子子孙孙。则余曾家可长盛不衰，代有人才。”
待儿子念完，曾国藩努力把手伸起，指指自己的胸口，纪泽纪鸿一齐说：“我们一定把父亲的教导牢记在心！”曾国藩脸上露出一线浅笑，便溘然长逝了。
在中国近代历史上，要是选出一个最有影响的人，选择曾国藩的应该不在少数。毛泽东年轻时，对曾国藩佩服备至，曾说：“吾于近人，独服曾文正。”中年毛泽东于1942年在延安时，曾劝党的高级干部说：“要读一点曾文正公的家书。”晚年，毛泽东于1969年1月曾说：“曾国藩是地主阶级最厉害的人物。”蒋介石多次告诫他的子弟僚属，要多看曾国藩的东西，并称曾国藩的文章和家书为任何政治家所必读。他审订《曾胡治兵语录注释》时说：曾氏已足为吾人之师资矣。在黄浦军校，他以曾国藩的《爱民歌》训导学生。他说，我认为曾、左能打败洪、杨，是他们的道德学问、精神与信心胜过敌人。近代名人中，梁启超、蔡锷也崇拜他。
曾国藩一生，总结起来可以由这几件事来概括：组建湘军；倡导洋务运动；不拘一格提拔人才；遵从并克己实践理学。在近代历史上，在中国走向现代化的征程里，曾国藩是有开创之功的。他不但亲自创办了安庆军械所等军需或民用工业，更重要的是，他提拔了一批在洋务运动和晚清历史上举足轻重的人物如左宗棠、李鸿章、郭嵩焘等等，湘军重要将领在一段时期内更是极晚清政坛之盛。湘军兴起以后，更出现了无湘不成军的局面。所有这些，与曾国藩都有密切的关系。
尽避如此，国内多数史家却长期视曾国藩为历史的罪人。他们的理由有两条：一是说他是镇压太平天国革命的刽子手；二是说他处理天津教案“卖国投降”。
在近代中国，反对帝国主义的侵略，维护国家独立，一直是个决定历史进程的基本问题之一。症结在于怎样才能有效地解决这个基本问题。曾国藩的对策不外两个要点：一是师夷长技，夺其所恃。二是要求整饬自身。用他自己的话来概括，则是“以忠刚慑泰西之魄，而以精思窃制器之术，国耻足兴。”当然，历史证明，曾国藩也没有找到救国的正确道路。
曾国藩历任礼部侍郎、湖北巡抚、两江总督、直隶总督，并加兵部尚书和太子少保衔，还曾奉命统辖江苏、安徽、江西、浙江四省军务。太平天国覆亡后，朝廷褒功，封曾国藩为一等毅勇侯，加太子太傅，赏双眼花翎。有清一代汉官中，无人能出其右。
曾国藩居官治军尤重整饬吏治、端正人心，曾作文劝戒州县：明刑法以清讼，重农事以厚生，崇节俭以养廉。江南任内，他在江西、江苏、安徽等省实行减赋、缓征、免征；从太平天国手中重新占领安庆、芜湖、南京等地后，即筹复书院、课试士子，对缓和社会矛盾、稳定统治秩序起了一定作用。
曾国藩毕生服膺程朱理学，又主张兼取镑家之长，认为义理、考据、经济、辞章四者不可缺一，但始终将理学放在首要地位。于古文、诗词也很有造诣，被奉为桐城派后期领袖。
曾国藩逝世后，清政府赠其太傅，谥文正。后人辑其所著诗、文、奏章、批牍等为《曾文正公全集》，又有影印《曾文正公手书日记》行世。