出羽の庄内藩領清川村で、郷士の斎藤豪寿の子として生まれた。本名は斎藤元司で、のちに故郷の名をとって清河八郎と名乗った。家は酒造りを営む豊かな旧家で、幼いころから学問に親しむことができた。のちに知人は、生まれつき激しい気性で堂々とした体格だったと語っている。
清川の関所の役人畑田安右衛門に学び、本格的に勉強を始めた。三年後には、のちに天誅組を率いる藤本鉄石と出会って親しくなった。鉄石から江戸や京都の様子を聞き、広い世界で学びたいという思いを強くしたとされる。
江戸に出て儒学者の東条一堂に学び、塾頭に選ばれたが断って安積艮斎の塾に移った。そのかたわら千葉周作の道場で北辰一刀流の剣を磨いて免許皆伝を受け、幕府の昌平坂学問所でも学んだ。のちに学問と剣術を一人で教える清河塾を江戸に開いた。
母を連れて故郷を出発し、善光寺や伊勢、京都、宮島、天橋立、日光などをめぐる半年の大旅行をした。その記録『西遊草』は、各地の名士との出会いや辛口の批評に満ち、幕末の旅の様子を知る貴重な資料となっている。親孝行の旅でもあった。
大老井伊直弼が討たれた桜田門外の変に強い衝撃を受け、尊王攘夷と倒幕の思いを強めた。清河塾には幕臣の山岡鉄舟や薩摩藩士らが集まり、清河を盟主に虎尾の会が結成された。横浜の外国人居留地を焼き討ちし、攘夷の気運を高める計画も立てたという。
計画が幕府に知られたうえ、町で罵声を浴びせてきた幕府方の者を斬ってしまったことから、清河は幕府に追われる身となった。仲間の何人かは捕らえられ、獄中で亡くなった。清河は江戸を逃れて京都に潜み、各地を回りながら倒幕の運動を続けた。
九州を回って真木保臣や平野国臣ら尊王攘夷の志士と会い、京都に集まるよう呼びかけた。その後、山岡鉄舟を通じて政事総裁職の松平春嶽に、攘夷の実行、罪人の大赦、人材の育成を説く意見書を出した。幕府はこれを取り入れ、浪士を集めた組織の結成を認めた。
将軍徳川家茂が京都へ向かうのに先立ち、二百人余りの浪士組を率いて京都に入った。着いた夜、壬生の寺に浪士を集め、真の目的は将軍の警護ではなく尊王攘夷の先頭に立つことだと告げた。さらに朝廷に意見書を差し出し、受け取られた。
清河の方針に反発した近藤勇や土方歳三、芹沢鴨らは京都に残り、のちの新選組となった。一方、清河の動きを危ぶんだ幕府は浪士組を江戸へ呼び戻した。清河のこの行動は、結果として新選組誕生のきっかけを作ることになった。
江戸に戻ったのちも浪士組を動かそうとしたが、幕府と対立していたため狙われていた。麻布の一の橋付近で幕府の刺客に襲われ、三十代前半で命を落とした。死後、浪士組は新徴組と改められて庄内藩に預けられ、明治になって清河には位が贈られた。
西郷隆盛松平春嶽（慶永）武市半平太（瑞山）吉田松陰近藤勇橋本左内土方歳三小松帯刀（清廉）
教科書や伝記で確かめられる事実をもとにしています。不確かなことは「諸説あり」「と伝わる」としています。