随后又在战略要地三河镇之战全歼湘军精锐之师6000余人，湘军大将李续宾、曾国华同时毙命。正当曾国藩因为三河镇的惨败痛苦不堪的时候，曾国荃率领他的湘军，攻破了吉安城。曾国藩从吉安之役中，看到了九弟曾国荃倔强不屈的性格和带兵打仗的才能，认定他是个可以担当大任的人物。自此以后，曾国藩就把曾国荃率领的吉字营湘勇看作是自己的嫡系部队，处处予以照顾。
曾国荃果然不负兄长地厚望，作战勇猛，攻无不克。他手下的将士也大都是亡命之徒，每攻下一城，曾国荃命令放假三日，任凭兵勇烧杀抢掠奸淫，无恶不作。因此这支湘勇在攻城时，都能奋不顾身，铤而走险，这个特点在后来围困安庆、攻陷天京时表现尤为明显。咸丰十年（1860年）5月，曾国荃率军进驻安庆以北的集贤关，开始了对安庆的围攻。
安庆位于长江中游，溯江而上则能据汉口、武昌，顺水而下，则南京门户洞开，军事地理位置极为重要。在湘江准备攻取安庆时，该城已被太平军占领达9年之久。1860年6月，安庆攻坚战拉开序幕，曾国荃率湘军8000人进逼安庆。在城西、城北开挖长壕两道，造成包围之势，断其军粮。城内太平军屡次出城作战，湘军都坚守壕垒，不轻易越壕迎战，屡屡挫伤太平军的锐气。
太平军陈玉成部前来救援，也始终无法突破湘军的阵地。一时间，交战双方全力以赴，安庆地争夺成了关系着太平天国和清王朝之间军力消长的决战。驻在长江南岸距安庆几十里远的东流的曾国藩，都可清晰地听到交战的火炮轰鸣声，可见战斗的激烈。在这关键时候，太平军首领陈玉成犯了一个大错，5月19日他率数千太平军赴桐城会合洪仁和林绍璋，商讨下一步行动，却留8千人守集贤关内和菱湖两岸各垒，留4千人守集贤关内赤岗岭四垒，这样就使1万余人的部队陷于孤军作战且没有主帅的境地。
5月20日，湘军将领鲍超开始猛攻集贤关外太平军四垒，太平军守将刘沧琳骁勇善战，战斗打得十分激烈。6月8日，赤岗岭四垒也被湘军团团围住，太平军已是山穷水尽。鲍超派人劝降，有三垒太平军被迫投降。刘琳率数百人突围，被湘军穷追，一直追到溪河边，太平军已无力战斗，大部分被生擒。这是一场空前惨烈的战斗，整整打了20天，陈玉成的精锐4千余人全军覆没，赤岗岭投降得太平军和随刘沧琳突围被俘的战士，全部被湘军斩杀，刘琳本人也被肢解。
1860年7月7日至8日，曾国荃和湘军水师互相配合，将陈玉成留在集贤关内和菱湖两岸的十八垒全部攻破，太平军8千官兵全部被杀。这段时间，战争的激烈、残酷，超过了湘军以往参加的任何战斗，一月内，仅在集贤关内外，太平军死亡一万多人。湘军除在战场上杀戮外，又把投降和被俘得太平军集体屠杀，屠戮之惨状，连性格极为蛮狠、凶残的曾国荃手脚都感到瘫软，表示打完这一仗后，他要回家做乡农了。
此时，安庆与外界的联系已经断绝，只有一些外国商人将粮食偷运过去卖给太平军，曾国荃就派兵士守在航道上，当外国商人的运粮船开来时，就以高于太平军的价格将粮食收买，安庆城内的太平军就完全断粮了。1861年9月5日，曾国荃用地道填埋炸药轰倒安庆北门城墙，湘军蜂拥而入，城内太平军由于饥饿，已拿不动刀枪，无力抵抗，主将叶芸来等16000余官兵投降。
湘军占领安庆后，曾国荃命令将投降的太平军分成100人一批，轮流叫他们进屋领路费，进屋后便由刀斧手捆绑起来，从后门押出去砍头，整整砍了一天一夜，杀完1万多人。从此，曾国荃也得了一个“剃头匠”的绰号。进入安庆城后，曾国荃将英王府的所有财富据为己有，全部装上船只，运回湖南荷叶塘家中。安庆之战，曾国荃又为湘军立了一大功。
安庆的陷落，为进攻天京准备了极为有利的条件。清廷以曾国荃“智勇兼施”赏加布政使衔，并赏穿黄马褂。1862年春，曾国藩开始部署进攻天京。他又把主攻的任务交给了弟弟曾国荃。急功近利的曾国荃在清军未按原计划出师前，率军急进，连下无为、巢县、含山、和州、太平府、东梁山、金柱关、芜湖、江宁镇、大胜关等地，直逼天京城，1862年5月31日在天京城南门外的雨花台扎下营寨，使军队处于孤立突出的险境。
曾国藩替他担心不已，写信劝他暂时后退，以求稳妥之策。但是曾国荃却认为：“舍老巢勿攻，浪战无益，逼城足以致敌。虽危，事有可为。”丝毫没有退兵的念头。曾国藩准备派李鸿章前去援助，也遭到他的拒绝。他开始在天京城外深挖壕沟，广筑防御工事，并结合水师，全力出击，靠2万军队击退了号称20万的太平军援部。曾国藩见他打了胜仗，又赶快劝其趁好即收，撤兵天京，以保全功业。
