1894年七月，中日两国同时向对方宣战，甲午中日战争正式开始。在随后发生的中日黄海大战中，战事一开始日舰炮火就击毁了北洋水师旗舰定远号上的信旗装置，水师提督丁汝昌被炸伤，北洋舰队遂失去了统一的战场指挥。在这场大海战中，北洋舰队损失惨重，此战北洋舰队被击沉五艘，林永升、黄建勋、邓世昌等以身殉国，而日舰却一艘未沉。作为北洋水师提督和中方战场指挥官的丁汝昌在战前没有明令确定自己的代理人和代理旗舰，在交战过程中没有或已来不及采取任何补救措施，致使整个舰队陷入群龙无首、各自为战的被动局面，难辞其咎。
之后残存的北洋水师舰艇退往威海卫军港，而日军大部在辽东半岛登陆，并相继攻陷旅顺、大连，直逼威海卫。1895年正月，日军进攻威海南帮炮台的制高点摩天岭，丁汝昌虽然率舰队从海上用火力支援炮台守军，但由于众寡悬殊，威海陆路南北帮炮台相继失守，刘公岛（北洋水师公所所在地）遭海陆合围，成为孤岛。1895年1月23日，日本海军大将伊东佑亨向处于绝境之中的北洋水师提督丁汝昌发来了一封劝降信，在这封信中，伊东佑亨向丁汝昌剖析北洋水师战败的原因，并向丁汝昌说道：“今贵国亦不可不以去旧谋新为当务之急，亟从更张，苟其遵之，则国可相安；不然，岂能免于败亡之数乎？........既际此国运穷迫之时，臣子之为家邦致诚者，岂可徒向滔滔颓波委以一身，而即足云报国也耶？夫大厦之将倾，固非一木所能支。”
面对日本人的劝降，丁汝昌选择拒绝。十七天之后，在弹尽粮绝，苦苦说服军心动摇意欲降敌者无果的情况下，丁汝昌将提督大印损毁后服鸦片自尽殉国，时年六十岁。在丁汝昌的遗书中他这样写道：“忆第一战虽丧吾爱将邓公世昌，林公永升，然主力尚存，仍可与倭寇一决雌雄。统帅李大人不知何意，令我等全数撤入威海卫港并不许出战。偏居一隅坐等倭寇形成海陆夹攻之势，实乃兵家之大忌也！予决不弃报国大义，今惟有一死.......然百年后若有人懂我一片赤诚报国之心，昌死不朽矣！'.
丁汝昌死后，北洋剩余官兵借其名义向日军投降，不知内情的光绪帝下诏籍没丁汝昌家产，并将其棺木加上三条铁链以示其罪，不许下葬。直到十五年后的宣统二年（1910年），经载洵及萨镇冰等人力争，清廷才为丁汝昌平反昭雪。美国《纽约时报》对于甲午中日战争有过这样一段评价：”他们向世人展示，在四万万个中国人中，至少有三个人认为世界上还有一些别的什么东西要比生命更宝贵。”