他作为广岛藩士加藤七郎兵卫的三子出生于广岛城下。父亲虽是俸禄微薄的下级武士，却很有学识，在藩校执教。他自幼在藩校修道馆学习，在重视学问的家庭氛围中长大。他日后冷静判断力的根基就在这里。
他进入培养海军军官的海军兵学寮，也就是后来的海军兵学校。在明治新国家建设中，守卫海洋的海军担负着重要使命。经过严格训练与学习，他日后成长为担负日本海军的人物。
他以仅次于第一名岛村速雄的第二名成绩从海军兵学校毕业。岛村后来身居海军要职，两人成为支撑同时代海军的同伴。几年后，他又被选为培养高级军官的海军大学校的首批学员。
甲午战争中他担任巡洋舰吉野号的炮术长，在与清朝大型战舰定远、镇远等交战的黄海海战中表现出色。作为负责火炮的军官，他亲身体会到真实海战的残酷。这一经历成为他日后在海军核心工作的重要财富。
日俄战争中他出任联合舰队参谋长，参加日本海海战。据说他与司令长官东乡平八郎、参谋秋山真之一起站在战舰三笠号的舰桥上，炮弹横飞也不进入安全之处，不断鼓舞士兵。日本海军在这场战斗中大获全胜。
战后他出任海军次官，在海军省负责组织运营。此后他历任吴镇守府司令长官和第一舰队司令长官，走过海军的关键职位。作为既懂战场指挥又懂行政工作的人物，他深受周围人的信赖。
他在第二次大隈内阁中出任海军大臣，晋升为海军大将。此后在寺内正毅、原敬、高桥是清内阁中继续担任海军大臣，统率海军近八年。他一方面推进建设大舰队的计划，一方面也注意与国家财政的平衡。
他作为日本首席全权代表出席华盛顿会议。各国记者因他身材消瘦而嘲笑他是蜡烛，但他接受了美国提出的军舰比例方案，表现出对裁军的积极态度。据说他因此转而被赞誉为照亮危机世界的伟大蜡烛。
他出任内阁总理大臣，组建了自己领导的内阁。他按照华盛顿会议的约定推进海军裁军，也为陆军裁军铺平道路。他还结束了长期持续的出兵西伯利亚，撤回了军队。他虽出身军人，却引导国家走向削减军备。
他在首相任上重病恶化，在东京家中去世，享年六十二岁。八天后发生关东大地震，日本在没有首相的状态下迎来这场大灾难。他死后被授予元帅称号，故乡广岛至今仍立着他的铜像。
犬养毅原敬尾崎行雄加藤高明牧野富太郎长冈半太郎南方熊楠西田几多郎
内容基于教科书和传记中可以确认的史实，不确定之处会注明。