他作为乡士斋藤豪寿之子，出生于出羽庄内藩领清川村。本名斋藤元司，后来取故乡之名，自称清河八郎。家中是经营酿酒的富裕旧家，因此他自幼便能亲近学问。后来有熟人回忆说，他天性刚烈，体格魁梧。
他师从清川关所的官员畑田安右卫门，正式开始学习。三年后，他结识了后来率领天诛组的藤本铁石，两人交情深厚。据说听铁石讲述江户和京都的情形后，他更加渴望到广阔的世界去求学。
他来到江户师从儒学者东条一堂，被选为塾头却推辞不就，转入安积艮斋的私塾。同时他在千叶周作的道场磨炼北辰一刀流剑术，获得免许皆传，还在幕府的昌平坂学问所学习。后来他在江户开设了由他一人兼授学问与剑术的清河塾。
他带着母亲从故乡出发，进行了游历善光寺、伊势、京都、宫岛、天桥立、日光等地的半年大旅行。旅行记录《西游草》充满与各地名士的相遇和尖锐的评论，是了解幕末旅行情况的珍贵资料。这也是一次尽孝之旅。
大老井伊直弼被杀的樱田门外之变给他很大冲击，他尊王攘夷和倒幕的想法更加坚定。幕臣山冈铁舟和萨摩藩士等人聚集到清河塾，以清河为盟主结成虎尾之会。据说他们还制定了火烧横滨外国人居留地、以鼓动攘夷风气的计划。
计划被幕府察觉，加上他在街头斩杀了对他恶语相向的幕府方人员，清河成为幕府追捕的对象。几名同伴被捕，死于狱中。他逃离江户潜伏京都，一边周游各地一边继续倒幕运动。
他游历九州，会见真木保臣、平野国臣等尊王攘夷志士，号召他们聚集京都。之后他通过山冈铁舟向政事总裁职松平春岳上书，主张实行攘夷、大赦罪人和培育人才。幕府采纳了这一意见，批准组建召集浪人的组织。
在将军德川家茂前往京都之前，他率领两百多人的浪士组进入京都。到达当晚，他把浪士召集到壬生的寺院，宣布真正的目的不是护卫将军，而是站在尊王攘夷的最前列。他还向朝廷呈上意见书，并获受理。
反对清河方针的近藤勇、土方岁三、芹泽鸭等人留在京都，后来成为新选组。另一方面，对清河的动向感到不安的幕府把浪士组召回江户。结果，清河的这一行动成为新选组诞生的契机。
回到江户后他仍想调动浪士组，但因与幕府对立而被盯上。他在麻布一之桥附近遭幕府刺客袭击，三十出头便失去了生命。他死后，浪士组改名为新征组，交由庄内藩管辖，明治时代清河被追赠官位。
西乡隆盛松平春岳（庆永）武市半平太（瑞山）吉田松阴近藤勇桥本左内土方岁三小松带刀（清廉）
内容基于教科书和传记中可以确认的史实，不确定之处会注明。