薩摩国鹿児島城下の加治屋町で、右筆と槍術の師範を務める藩士の六男として生まれた。加治屋町は西郷隆盛や大久保利通も育った町である。若者どうしが心身をきたえる郷中教育のなかで、勇ましい少年として知られた。
イギリス艦隊が鹿児島を攻めた薩英戦争に、少年ながら加わった。西洋の軍艦の力を目の前で見たことは、のちに海軍の道へ進むきっかけの一つになったとも考えられる。1868年に始まる戊辰戦争にも従軍し、各地で戦った。
戊辰戦争の後、西郷隆盛の紹介で勝海舟の教えを受け、海軍の道を志した。開成所などを経て海軍兵学寮に入った。実戦を経験していた山本ら学生は、実戦を知らない教官の教えに反論することもあったという。
西郷隆盛が政府を去ると、そのあとを追って鹿児島へ帰った。しかし西郷自身に説き伏せられ、兵学寮にもどって学業を続け、この年に卒業した。成績は下位だったが、その後は海軍士官として着実に経験を積んでいった。
新潟出身の登喜子と結婚した。薩摩の士官が武士でない家の娘と結婚するのは当時めずらしいことだった。山本は生涯妻を大切にした愛妻家として知られる。私生活は質素で、酒もたばこもやらず、仕事が終わるとまっすぐ家に帰ったという。
海軍大臣西郷従道に海軍大臣官房主事に任じられ、海軍の運営の中心となった。日清戦争では海の支配の大切さを陸軍の首脳に説き、陸海軍の作戦を進めやすくした。陸軍の参謀本部から海軍の軍令部を独立させることにも力を注いだ。
三国干渉の後、ロシアに対抗できる海軍をつくるため、軍務局長として大がかりな改革を行った。古い将校を大勢やめさせたため「権兵衛大臣の独断」と批判されたが、西郷従道は山本を信じて責任を引き受け、改革をやりとげさせた。
第2次山県内閣の海軍大臣となり、日露戦争が終わるまで約8年にわたり海軍を率いた。秋山真之ら若い士官を海外に学ばせ、軍艦をそろえ、造船所を整えた。船の食事を改めて、乗組員の脚気をほとんどなくしたことも知られる。
ロシアとの戦争に備え、舞鶴にいた東郷平八郎を連合艦隊司令長官に選んだ。明治天皇に理由をたずねられ、「東郷は運の良い男であります」と答えた話が伝わる。山本は勝てる見通しが立つまでは開戦に慎重な姿勢をとり続けた。
日本海海戦で連合艦隊がロシアのバルチック艦隊を破り、日露戦争は日本の勝利で終わった。山本は日英同盟を生かしてバルチック艦隊の長い航海を苦しめるなど、戦争全体を海軍大臣として支えた。翌年大臣を辞め、のちに伯爵となった。
大正政変で桂内閣が倒れた後、立憲政友会と手を結んで内閣総理大臣となった。陸軍大臣・海軍大臣は現役の軍人でなければならないという軍部大臣現役武官制を改め、予備役の者もなれるようにして、軍部の力をおさえようとした。
ドイツの会社シーメンスなどから海軍の高官がわいろを受けていたシーメンス事件が明るみに出て、国民の激しい批判を受けた。山本は責任を取って内閣ごと辞め、海軍でも予備役に入った。以後、長老として表立った発言はひかえた。
関東大震災が起きた翌日、ふたたび首相に任じられた。後藤新平を帝都復興院の総裁にして東京の復興を進め、普通選挙の実現にも動いた。しかしこの年の暮れ、摂政宮が狙われた虎ノ門事件の責任を取って、翌年はじめに内閣は総辞職した。
この年の春に長年連れそった妻の登喜子を亡くし、同じ年の12月、東京・高輪の自宅で病気のため亡くなった。元老にはならなかったが、昭和天皇はのちに、明治の陸海軍の名将として大山巌や山県有朋とともに山本の名をあげている。
勝海舟西郷隆盛大久保利通山県有朋大山巌西郷従道東郷平八郎秋山真之
西園寺公望寺内正毅高橋是清犬養毅原敬尾崎行雄加藤高明加藤友三郎
教科書や伝記で確かめられる事実をもとにしています。不確かなことは「諸説あり」「と伝わる」としています。