9月11日，日军增援台湾的第二师团到达台北，在海军配合下，大举南犯。10月9日攻陷嘉义。10日和11日，日军在布袋嘴和枋寮登陆，分兵进逼台南。15日，日舰进攻台南东南的打狗港。刘永福派其子刘成良率军抗击。守军饥甚馈散，刘成良退守台南。这时，刘永福曾写信给桦山资纪，“建议息兵”，“希望和议”，但被拒绝。
10月18日，刘永福召众将会议，商议战守之计，未得结果。当天，守军无食，大部溃散。19日，日军大举进攻安平炮台，刘永福亲自登台发炮，毙敌甚多。当晚，日军攻城益急，城内土匪蜂起，秩序大乱，刘永福想回城内，部将劝阻：“军心散矣，各路倭兵大至，此城万不可守，请公去”。刘永福见大势已去，仰天椎胸，呼号恸哭说：“我何以报朝廷，何以对台民！”遂密乘英轮“多利士”号退回大陆。21日，日军占领台南。至此，刘永福领导的台湾抗战宣告失败，台湾抗战虽然失败了，但刘永福领导台湾军民在外无救援，内缺粮饷的极其困难局面下，坚持4个多月的浴血奋战，英勇地抗击了日军两个近代化师团和一个海军舰队的进攻，沉重地打击了侵略者。侵台日军共5万人，因伤亡和疾病减员达三万两千人，其中在台丧命者4600人。侵台日军头目，近卫师团长、陆军中将北白川能久亲王、第二旅团长、陆军少将山根信成也被台湾军民击毙。
刘永福内渡后，1902年署广东碣石镇总兵。1911年广东独立后，被推为广东民团总长，后辞职回籍，1915年，日本向袁世凯提出灭亡中国的二十一条，将近80岁的刘永福义愤填膺，要求重上战场。1917年1月，病逝于家。