李秀成为了拔除上海这颗钉子，集中了十五精锐，携带火枪四千支，火炮五十门，兵分三路。一路由部将刘秉均出嘉定，宝山、吴淞，进占江湾镇；一路由谭绍光率领五万大军出浙江乍浦，围攻南桥镇；李秀成亲率八万大军进驻青浦朱家角。
薛焕此时手里只有五万兵力，还要防守上海周围各地，兵微将寡，一面向朝廷求援，一面求助英法二国，至于美国，自家正打的昏天地暗，那里顾得上东方战事，直接忽略。
面对太平军的攻势，英国领事麦华佗、法国领事爱棠对李秀成发布通告，如果敢进攻上海，必然派大军反击。李秀成此次铁了心要拿下上海，不理会二国的威胁，命令部队全面进攻，上海之战正式打响。
由于清军主力与英法军队都布防上海，外围据点多为当地团练把守，他们战斗力不高，根本无法抵挡太平军的进攻，不到二十天，占领南桥、奉贤等要地，直逼宝山、上海。
英法二国从台湾调集兵力还未到达，清军的援军也是一个未到，只能派炮艇军舰阻拦，但太平军毫无所惧，冒着炮火攻占泾口，与上海隔江相望。北路大军攻占吴淞口东岸的重镇高桥，直逼上海英国租界，南面也将华尔的洋枪队包围在松江，形势一片大好，但此时太平军内部却出现了意外。
“什么？你再说一遍！”李秀成对着一个部将吼道。
“忠王千岁，李文炳、章子余等人在苏州谋反，还请忠王定夺！”
李秀成气得浑身发抖，没想到自己非常信任的两个部下竟然反叛，要知道他们手中可掌握三万兵马。
“可恶，我一定要将这两个混蛋碎尸万段！”
“大哥，苏州是咱们的大本营，不可不救啊！”大帐内一个年轻男子说道，他名叫李明成是李秀成的弟弟。
李秀成当然明白苏州的重要，想了一阵说道：“绍光，我留下十万大军，进攻上海的战事由你进行！”
谭绍光抱拳道：“请忠王放心，属下必将竭尽所能，攻克上海！”
李秀成说道：“敌人枪炮犀利，进攻上海务必稳扎稳打，每占领一座城池就深挖壕垒，切莫急进！”
“属下明白！”
一天后，李秀成率领一半精锐返回苏州平叛，谭绍光接过指挥大权，继续进攻上海。
面对太平军的猛攻，薛焕急忙从各处调集海船百余艘，排列在黄浦江上架炮轰击太平军阵地，同时英法二国炮艇、战舰也轰击宝山、吴淞的太平军。太平军也架炮还击，无奈敌人火力凶猛，只能暂时撤退。
谭绍光在军营里一筹莫展，李秀成带走一半大军，还有一多半的火器，面对敌人众多的火枪火炮发动数次进攻都被打退，还损失了一万多人。
“慕王，我们火器稀少，这样打下去也不是办法啊！”谭绍光身边一位魁梧大汉说道，此人正是与彭大顺等人脱离石达开的将领吉庆元，现在成为李秀成身边的猛将。
谭绍光也知道凭借自己的本事恐怕打不下上海，说道：“看来我们只能等忠王平叛会来了。庆元，从今天开始就不要进攻上海了，我给你六千兵马，驻扎高桥，记住要深挖壕沟，我去其他各处安排守军，等待忠王。”
吉庆元点头道：“放心吧慕王，六千人马足够了，我保证牢牢钉在高桥。”
谭绍光拍拍吉庆元的肩膀，然后出了军营，他现在下定决心停止进攻，把守占领的城池。
清、英、法利用这个机会抓紧进行布防调整，由英国军官士迪佛立所率领2000援军抵达上海，联军实力大增，遂决定反攻。
李秀成离开十天后的一个夜晚，高桥镇，外围已经挖了两圈圈壕沟，纵深达四十米。一队太平军守在壕沟里，连续多日的平静让太平军有些松懈，一群战士正在围坐在一圈用骰子赌博，周围还站着一些观众。
就在守军松懈之时，漆黑的夜晚里渐渐浮现一些人影，他们推着一门门火炮缓慢靠近高桥镇，最后在千米外停住。
这些人正是清、英、法组织的联军，有英法陆战队4000人，华尔的洋枪队五千人，将高桥镇牢牢包围。
随着一声令下，联军六十门火炮从四面八方轰击太平军营垒。不到十分钟，三艘军舰和四艘炮艇也赶来助阵，一排排炮弹飞向营盘。被惊醒的太平军赶紧进入阵地，准备阻击敌人。
木寨被炸飞，壕垒被炸塌，由于壕沟挖的太深，一些战士被埋在自己壕沟里。
联军陆军开始推进，他们排成整齐密集的方队，铅弹如雨而下，压的太平军无法抬头。
吉庆元冒着炮火来到火器营，他手里有两百支火枪，五门火炮，大吼着督促士兵还击。
“弟兄们，不要怕，瞄准了再打！”
可惜这是深夜，他的火枪不多，无法形成有效的弹幕，根本无法抵挡联军推进。
由于太平军的反击暴露的火器营的位置，联军的炮火很快覆盖这里。
“轰……”
近一百余发炮弹在阵地上爆开，火器营立刻死伤惨重。
良久，吉庆元从土堆里艰难的爬起，此时炮声已停，他立刻明白敌人陆军要冲锋了。
果然，远处传来洋人的吼叫声，吉庆元抽出战刀，就要带人冲上去，但刚抬腿，立刻疼的他冷汗直冒，这才发现自己的左腿被炸伤了。
“可恶！”
一个幸存的亲兵赶紧将他扶住，急道：“将军，部队已经被打乱，恐怕无法守住高桥，还是撤吧！”
吉庆元一把推开亲兵，怒道：“给我拿起火枪，把洋人赶出去！”
周围的士兵见主将如此悍勇，重整士气，与冲上来的联军展开肉搏战。两个小时候，死战不退的吉庆元再次负伤，导致昏迷，亲兵将其背起，向东南逃去。剩下的两千多人失去主将，无人指挥，最后撤出南桥镇。
仅仅一天后，联军用相同的又方法攻下两处要地，谭绍光这才意识到自己分兵的错误，开始集中兵力反攻，企图夺回三处要点，但联军早有准备，打退了谭绍光的数次进攻。
华尔的洋枪队此时发挥了巨大作用，他们在天马山、辰山、广富林、塘桥等地迎战太平军，由于武器先进，与其对阵的太平军皆被打退，被迫退回青浦，等待援军，洋枪队因为这些功劳被改名“常胜军”。