1895年5月10日，被任命为第一任台湾总督。

1896年，封伯爵。此后历任枢密顾问官、第二次松方内阁内务大臣、第二次山县内阁文部大臣等职。

1905年，转预备役。

1910年，退役。

1922年，病故，终年85岁。

1890年任第一届松方正义内阁海军大臣，他当大臣时正好是海军的造舰预算被议会以海军内部腐败、政府被长州萨摩凡两藩阀把持而否决的时候，桦山火了，跳到讲台上大喊：“开口闭口就是‘萨长’政府，没有这个萨长政府，四千万生灵活个屁！”结果议会解散，内阁辞职。日本军队逼政府下台不是稀罕事，但开第一个先例的是海军而不是名声在外的陆军，桦山从此就被人称为“蛮勇将军”，被解除了海军大臣职务，改任枢密顾问官，并转为预备役海军中将。

1894年（清光绪二十年）7月17日， 日本大本营召开御前会议，决定准备对中国开战。甲午战争爆发前，由于当时的海军军令部长佐贺藩出身中牟田仓之助认为日本海军还没有能够主动挑战北洋水师进行舰队决战的实力，只能防守，不能进攻，因此被撤换。而桦山资纪主张把日本海军力量集中，组成一支联合舰队，采取攻势方针，消灭中国海军有生力量，夺取制海权。得到明治天皇赞赏，特颁旨恢其为现役，成为海军军令部长，进入大本营 ，并作为大本营成员参与整个战争的指挥，而且不设军令部次长，就桦山一人唱独角戏。当时的海军第一人海军卿西乡从道也是从陆军转行干海军的，是著名的甩手大掌柜，他认为他的任务就是从政府内给海军要钱，对战术战略一概不问。桦山就这样成了海军的第一当家。7月20日，他在佐世保完成了战争动员和部队整编。他将原来的常备舰队、西海舰队和一些零散舰只集结起来。组成了一支适合战时体制的联合舰队，海军中将伊东祐亨为联合舰队司令长官。这样海军大臣西乡从道，军令部长桦山资纪，加上联合舰队司令长官伊东祐亨全是清一色萨摩藩出身，组成甲午战争战的日本海军三套马车。

1894年7月25日， 日本联合舰队在朝鲜半岛西海岸的丰岛海面突然袭击了北洋水师的济远、广乙二艘执行护航任务的战舰（见丰岛海战），并紧接着击沉了中国租用的商船“高升号”，截获了炮舰“操江”号，挑起中日甲午战争的全线爆发。由于轻而易举地取得了战斗的胜利，日军战争气焰陡增。为了进一步夺取黄海海域的制海权，桦山资纪下令联合舰队倾巢而出，率舰队寻找北洋舰队主力决战。为了防备伊东祐亨犹豫不决放跑战机，也为了显示他的武士道精神，他化名参谋军官，选了最弱的一条船——战前由商船临时改装、只加装了一门火炮、充代巡洋舰的“西京丸”督战。1894年9月17日午后13时许，中日海军各自的主力在黄海大东沟大鹿岛附件的海面上遭遇。日本舰队分本队和游击队，采用纵队战术来对应北洋舰队的冲击横队。联合舰队本队转过北洋舰队以后是一个右转弯往北洋舰队后面包抄了下去，可是最后面的“扶桑”、“比叡”和伴随着“西京丸”的炮舰“赤城”被“来远”、“致远”和“广甲”咬住了。这时桦山资纪立即升旗发出旗语：“‘比叡’、‘赤城’危险”，召唤还没有做完左转弯的第一游击队前来救援。第一游击队做完左转弯以后和做完了右转弯的本队相隔6000米对北洋舰队形成了夹击之势，各自在三千米的距离上对北洋舰只射击。坪井航三率最精锐的第一游击队四艘巡洋舰“吉野”、“浪速”、“秋津洲”、“高千穗”环击北洋舰队之背超勇、扬威两艘弱舰，而桦山乘弱舰在本队抵挡北洋主力舰队之冲击。北洋舰队“定远”、“镇远”、“平远”、“广丙”等舰围住并猛轰他乘坐的“西京丸”。“西京丸”前后共被12发炮弹击中，其中包括305毫米炮弹4发，210毫米炮弹1发，150毫米炮弹2发，120毫米炮弹3发，但是由于北洋水师炮弹威力有限（北洋水师装备的作战弹头有开花弹、实心穿甲弹、教练弹，开花弹里填充的还是传统的黑火药，且备战不充分，携弹量不充足），“西京丸”舰仅伤11人。

“西京丸”是艘被海军征用的日本邮船公司的一艘排水量2，900吨的客轮，装了一门炮就出海混市面来了，赶上这门炮还出了故障，打不响。船上的人除了合掌拜老天之外什么方法没有，就在下午14：40分、船上的桦山军令部长已经发令撤出战场的时候，平远、广丙和援兵中的鱼雷艇“福龙号”又冲了上来。桦山也咬了咬牙：“拼了”，下令转过头来，用临时加装的冲角去撞只有115吨的小鱼雷艇“福龙”号。“福龙”号鱼雷艇（艇长蔡廷干）乘机高速逼近“西京丸”号，连发两枚鱼雷，但均未命中。“福龙”号右转后，已抵近到“西京丸”左舷舰艏仅40米处，于是发射了第3枚鱼雷，由于距离太近，“西京丸”号已无法规避。桦山资纪此刻正好在舰桥上观战，见此情景吓得目瞪口呆，“以为我事已毕”。但“福龙”号所发射的鱼雷竟从“西京丸”号舰体下通过，从右舷逸出，未触发（正因为发射距离过近，鱼雷发射后未及上浮就已经从西京丸船体下边擦底而过；另分析可能是原厂鱼雷的水中攻击深度调节有误，让吃水较浅的西京丸侥幸逃脱），桦山资纪侥幸逃脱，慌忙退出战场。战后以功晋大将，赐子爵。

甲午战争最终以清廷战败告结，被迫与日本议和，派户部左侍郎张荫桓、署湖南巡抚邵友濂前往谈判，被拒。乃派李鸿章为全权大臣。于1895年（光绪二十一年）2月23日，李经方与马建忠、伍廷芳、罗丰禄等随李鸿章抵达日本马关，与伊藤博文等开始谈判。28日在第三次会谈结束后，有日本浪人用手枪刺杀李鸿章，击中左颊骨，血流不止，子弹未取出，登时晕绝。3月12日，清政府任命李经方为对日谈判的全权大臣。经请示清廷，得旨意后，3月23日，李经方、李鸿章与伊藤博文、陆奥宗光在马关春帆楼签订了《中日马关条约》，割让台澎。

1895年4月24日，光绪帝命李经方赴台湾，交接割让台湾事宜。五月初七日，李经方带马建忠、伍光建、科士达等从上海启程赴台，5月10日，与日本代表桦山资纪在基隆口外的西京丸号军舰上办理了交接事宜。李经方与当天离台；桦山资纪也在同日被任为第一任“台湾总督”，在台北正式成立“台湾总督府”，开始对台湾进行殖民统治。作为首任总督的桦山资纪对台湾各族人民掀起的反侵略抗斗争极为仇视，先后请派两个师团，到台湾作战，死伤惨重，最后才将孤立无援的台湾抗日民众镇压。1896年3月31日日本政府颁布「台湾总督府条例」，4月1日台湾废除军政，复归民政，同时以「关於施行於台湾之法令的法律」（即「六三法」）确立台湾总督的委任立法制，并依此设置台湾总督府评议会，5月，总督府以律令第1号公布「台湾总督府法院条例」，台湾法院分设地方法院、覆审法院、高等法院三级制，建立台湾的司法制度。 1896年6月卸任台湾总督后，曾任枢密院顾问官、内务大臣、文部大臣等职。桦山是个运气强硬的家伙，大东沟海战鱼雷打他不中，后来晚年患了脑溢血，昏迷了一个星期，人们都认为这老头没救了，正在准备丧事的时候，桦山突然自己又醒了，除了右半身有点偏瘫之外，结结实实地又活了十年，直到1922年在85岁高龄才亡故。