《孙子兵法》力戒一个“乱”字，反之，他希望以严用兵。
曾国藩手上时刻捏着“严”字，去律己制人，一旦有“违规”现象，他就绝不手软，立即加以严治。
清廷命曾国藩襄办团练，曾遂回家组建湘军。
湖南地方和其他各省一样，由于地方官的尔虞我诈，乃至到处布满了反抗清政府的团会和散兵游勇，地方治安坏到极点。小至白昼抢劫，大至攻破城池，焚掠官署，变故层出不穷。他们占据山岭险阻，构筑工事，官兵简直是莫可奈何。如征义堂、哥老会、串子会、红黑会、半边钱会、一股香会、天地会等，是比较有名的一些团体，至于其他秘密会社，则多至不可数计。太平军初到湖南时，便有成千上万的会党徒众，加入合流，使太平军声势更盛。
因此，曾国藩在长沙城内鱼塘口设立了一所行辕（司令部），专办全省团练，肃清地方事宜。又创设了一所“审案局”，专门审办各地缉解来的不良分子。
曾国藩生平是以儒者自许的一个老翰林，胡子粗粗的，指甲长长的，腰背弯弯的，走路拖拖的，平生不会骑马，不善刀矛，可是他在惩办“对手”、整顿史治上，却完全是另一副作风。