越後（新潟県）の武士・樋口兼豊の子として生まれた。幼いころから上杉景勝のそばに仕えた。
上杉謙信が亡くなり、二人の養子が跡継ぎを争った（御館の乱）。兼続は景勝を助け、景勝が勝って当主となった。
景勝の命で、重臣の直江家の娘お船と結婚し、直江家を継いだ。景勝のもとで政治の中心をになうようになった。
景勝とともに京都に上り、豊臣秀吉に仕える立場となった。秀吉からもその才能を高く評価されたと伝わる。
上杉家が会津120万石に移され、兼続は米沢30万石をまかされた。
徳川家康から上杉家の動きを問いただされ、強い調子で反論する手紙を送ったと伝わる（直江状、本物かどうかは諸説あり）。これをきっかけに家康の会津攻めが始まり、関ヶ原の戦いへとつながった。
東北で最上氏の長谷堂城を攻めたが、関ヶ原で西軍が敗れたと知って引き上げた。退却のさいの見事な指揮が知られている。
上杉家は米沢30万石に減らされた。兼続は家臣を減らさずに米沢に移り、堤防を築き、新田を開き、産業をおこして苦しい藩を支えた。
大坂冬の陣に上杉軍として加わり、徳川方として戦った。
江戸の屋敷で病気のため亡くなった。かぶとに「愛」の一文字をかかげたことでも知られる。学問を好み、書物の出版にも力を入れた。
上杉景勝織田信忠片倉景綱石田三成井伊直政福島正則加藤清正前田利長
教科書や伝記で確かめられる事実をもとにしています。不確かなことは「諸説あり」「と伝わる」としています。