清同治二年十一月，李鸿章命令提督刘铭传、总兵周盛波攻打常州。
        常州是太平天亚天京东南的屏障。自咸丰十年(１８６０)四月初六未时太平军攻克常州到同治三年(１８６４)四月初六未时失陷，太平军施政常州整整四年。
        这时，李鸿章带兵十万，还有英国人戈登指挥的洋枪队帮凶。已先后攻取了江阴、苏州、无锡、金匮、宜兴、荆溪、金坛、溧阳，常州成了一座孤城。护王陈坤书带领太平军将士，为保卫天国安全，誓死守卫常州，以牵制敌人。常州保卫战从同治二年十一月初二起到第二年四月初六城破将士死难，历时５个月。
        刘铭传接到李鸿章命令后，立即带兵由郑陆桥间道进逼常州，攻打常州东门。陈坤书命令守卫仓桥的太平军出击，自己则带领一支骑兵，集结在宝塔下，待仓桥初战告捷，陈坤书一声号令，骑兵队勇猛向前，挥舞战刀杀向敌群，刘铭传措手不及，带伤狼狈逃窜。
        李鸿章在无锡得到刘铭传伤败的战报，令统领道员李鹤章、总兵郭松林增援刘铭传。同治三年一月初七日，陈坤书带兵出南门与李鹤章、郭松林、周盛波恶战一场，杀得清军尸横遍野而回。
同治三年三月初十，李鸿章亲临常州指挥，令刘士奇、王永胜带五营行队，用程学启攻嘉兴的巨炮，与戈登的开花大炮分攻大南门、小南门；令刘铭传炸炮队攻北门，郭松林攻西门，张树声攻东门。面对中外强敌，陈坤书毫不畏惧，于城头高悬红灯，以示要决一死战。三月二十二日午刻，南北东西四城清军大炮齐轰，发起攻击。戈登用炸炮轰开大南门，洋枪队从缺口冲进城来，陈坤书冒着炮火，率数千太平军硬是将“洋枪队”逐出城外。小南门、北门、西门也都轰开缺口，但正如李鸿章奏章所称：“城墙随坍随堵，随死随上，我军屡次扑过城壕抢登，均被城头砖石、枪矛、药桶击死。”
        列王费天将抵堵北门。志王陈志书抵堵小南门缺口不幸被炮火击中，壮烈牺牲。陈坤书亲率一千名两广老兵，冲城而出，与洋枪队浴血战斗二十分钟，大败洋枪队。陈坤书当场击毙英国炮兵管带少佐得甫。这次冲杀死伤洋人军官２７名，洋枪队４００名。李鸿章在远远的高台上督战，目睹陈坤书的英勇，戈登的惨败，感叹说陈坤书“舍命坚守，凶悍实所罕见。”
        四月初三日，李鸿章令刘士奇、王永胜移攻东南角，冒着大雨，在城壕处筑长墙一百几十丈，令郭松林、刘大奇于长墙下开一条深沟，暗通城河，沟内可容二三千人，夜间派弁勇由沟内出搭浮桥，经三四夜工夫，搭浮桥六道。初五雨稍止，各门清军众炮排发，屋瓦皆飞。城内太平军死伤过半，城墙缺口不及堵塞，清军一拥入城。陈坤书率将士奋力反击，逐街逐巷争夺。尸体狼藉，且战且退。最后退至护王府。陈坤书率领仅剩的将士扎立石卡，以枪炮对击。终因弹尽伤重被捕。陈坤书大义凛然，昂首直立，拒绝向李鸿章下跪。他愤怒地说：“要不是戈登及其军队协助你作战，我定叫你毫无办法从我手中夺取这座城池。”又说：“我守常州，为把常州做为保卫天京的犄角，如今失败，我当尽忠。”李鸿章将陈坤书凌迟处死，并将首级悬挂东门城楼上。虽然戒备森严，可陈坤书的首级当晚即被窃去，太平军的革命火种仍在常州地下奔突。