播磨（兵庫県）の姫路で、黒田孝高（官兵衛）の長男として生まれた。幼名は松寿丸。父の官兵衛は、のちに豊臣秀吉の軍師として名を知られる人物である。
父が織田信長に仕えるしるしとして人質に出され、秀吉の城下である近江（滋賀県）の長浜で育てられた。秀吉の妻ねねにかわいがられたと伝わる。
父の官兵衛が、信長に背いた荒木村重を説得しに有岡城へ行き、捕らえられた。帰ってこない官兵衛が裏切ったと疑った信長は松寿丸を殺すよう命じたが、竹中重治（半兵衛）がひそかにかくまって命を救った。
秀吉の九州攻めに父とともに加わり、手柄を立てた。父は豊前（福岡県東部・大分県北部）の中津に領地を与えられ、長政も領地の一揆をしずめ、城下の整備に力を尽くした。
父が隠居し、家督を継いで中津城主となった。父ゆずりの知恵に加えて、勇ましい戦いぶりで知られる武将になっていった。
秀吉の朝鮮出兵（文禄の役）で、軍勢を率いて朝鮮半島へ渡った。慶長の役でも再び出陣し、苦しい戦いの中で多くの合戦にかかわった。このころから石田三成らとの対立を深めた。
関ヶ原の戦いで徳川家康の東軍についた。戦場で奮戦しただけでなく、小早川秀秋や吉川広家らに働きかけて西軍の力を弱め、東軍の勝利に大きく貢献した。その功で筑前（福岡県）52万石あまりを与えられた。
博多の近くに新しい城を築き始め、黒田家ゆかりの備前福岡（岡山県）にちなんで「福岡」と名づけた。城と城下町はおよそ7年かけて整えられ、商人の町・博多とともに今の福岡市のもとになった。
父の官兵衛（如水）が亡くなった。長政は父の教えを大切にし、のちには子孫や家臣に向けて、家を守るための心得を書き残した。
大坂冬の陣では江戸に残る役目を命じられたが、大坂夏の陣には徳川方として出陣した。この戦いを描かせたと伝わる「大坂夏の陣図屏風」は、戦に巻きこまれて逃げまどう人々の姿まで描いた作品として知られる。
将軍家の上洛に従って京都に上り、その地の報恩寺で病のため亡くなった。死の直前に家臣に向けた遺言を残し、福岡藩はその後も黒田家によって明治時代まで受け継がれた。
織田信長豊臣秀吉徳川家康竹中重治（半兵衛）黒田孝高（官兵衛）石田三成小早川秀秋蜂須賀正勝
大谷吉継伊達政宗真田幸村（信繁）立花宗茂淀殿伊東マンショ支倉常長宇喜多秀家
教科書や伝記で確かめられる事実をもとにしています。不確かなことは「諸説あり」「と伝わる」としています。