生于萨摩藩（鹿儿岛县）一个身份低微的武士家庭。家境虽贫寒，他却勤练剑术和炮术，后来在西乡隆盛、大久保利通等人手下成为藩里活跃的年轻力量。
他参加了因生麦事件而引发的萨英战争，深刻体会到英国舰队炮击的威力。据说此后他在江户学习炮术，切身感受到西洋军事技术的重要性。
为促成萨摩与长州联手，他作为使者前往长州，劝说木户孝允前来京都。由此缔结的萨长同盟成为推翻幕府的重要力量。
在戊辰战争最后一役箱馆战争中，他作为新政府军参谋，迫使据守五棱郭的旧幕府军投降。据说他爱惜敌军总裁榎本武扬的才能，甚至剃光头为他求情保命。
他出任负责开拓北海道和库页岛的机构开拓使的次官。次年他赴美国考察，聘请曾任美国农业部长的凯普伦来日担任顾问。
他升任开拓使长官，正式全面推进北海道的开拓。他创立了平时务农、必要时当兵的屯田兵制度，力图同时推进北海道的防卫与开发。
他作为与朝鲜交涉的全权代表，签订了日朝修好条规。同年，他从美国请来克拉克博士，开办札幌农学校，培养建设北海道的人才。
西南战争中，他作为政府军参军，率军救援熊本城。与家乡前辈西乡隆盛交战，他处在痛苦的立场上。
他打算把开拓使的工厂、船只等低价卖给同样出身萨摩的商人，引发轩然大波（开拓使官有物出售事件）。在舆论的强烈批评下，出售被取消，并引发了明治十四年政变。
他接替伊藤博文，成为第二任内阁总理大臣。他出身萨摩，第二年大日本帝国宪法就在他的内阁任内颁布。
大日本帝国宪法在黑田内阁时期颁布。黑田在演说中阐述了政府不受政党意见左右的超然主义。但反对大隈重信条约修改方案的声音日益高涨，大隈遇袭事件发生后，内阁集体辞职。
此后他作为元老继续参与政府的重要决策，担任了回应天皇咨询的枢密院议长等职。
在东京去世。据说他的葬礼委员长由他曾经救过一命的榎本武扬担任。作为致力于开拓北海道的人物，札幌大通公园里立有黑田的雕像。
西乡隆盛大久保利通木户孝允榎本武扬大隈重信副岛种臣大鸟圭介伊藤博文
内容基于教科书和传记中可以确认的史实，不确定之处会注明。