他出生于江户滨町的岩村藩宅邸，是美浓岩村藩家老佐藤信由的次子。佐藤家世代担任藩的家老。他名坦，通称舍藏，一斋是号。他虽生长在武士之家，却很早就对学问产生了浓厚兴趣。
他出仕岩村藩，成为藩主松平乘蕴第三子乘衡的近侍。乘衡是与他年龄相近、热爱学问的青年，据说二人亲密地探讨学问。这位乘衡，正是后来继承掌管幕府学问的林家、改名林述斋的人物。
仅一年左右他就被免去职务，之后前往上方深造。他师从京都的皆川淇园和大坂的中井竹山等著名学者，掌握了以朱子学为中心的广博知识。据说通过中井竹山的教导，他后来也倾心于阳明学。
回到江户后，他拜入掌管幕府学问的林家林简顺门下。不久简顺去世，曾被他侍奉的乘衡被林家收为养子，改名林述斋，一斋便继续作为述斋的门人。这是年轻时的朋友成为老师的罕见师徒关系。
他的学问深受述斋赏识，成为林家私塾的塾长，与述斋一同教导众多门生。据说他的门生多达三千人，山田方谷、佐久间象山、渡边华山、横井小楠、中村正直等许多活跃于幕末至明治的人物都出自他门下。
据说他开始撰写《言志录》，用简短的文字记录心中浮现的想法和教诲。此后他持续写作四十余年直到晚年，与《言志后录》《言志晚录》《言志耋录》合称《言志四录》。书中收录了许多讲述为人处世与求学之道的话语。
《言志录》刊行后，许多人开始阅读。后来西乡隆盛将《言志四录》视为终生爱读之书，并亲手从中摘抄了一百零一条，此事广为人知。一斋的话语成为幕末志士们的精神支柱，一直流传至今。
在惩处西学学者的蛮社之狱中，他的门生渡边华山被定罪。由于一斋当时没有明确出面维护华山，后来被批评言行不一。据说他为人严谨，总是带着钟表，严格守时。
述斋去世后，他被任命为幕府学校昌平坂学问所的儒官，站上了幕府学问的顶点。他专攻朱子学，又精通阳明学，因此被同仁称为“阳朱阴王”，意为表面奉朱子学，内心怀阳明学。
在与美国签订日美和亲条约的谈判中，他辅佐林家当主林复斋。但吉田松阴在信中写道，林家和一斋等人忌讳谈论军事和西洋之事，表示失望。在时代剧烈变动之际，人们对站在传统学问立场上的一斋看法不一。
他在江户去世，墓地位于今东京都港区六本木的一座寺院。他长期在学问界举足轻重，培养了据说多达三千人的门生，他的话语以《言志四录》的形式流传下来。受过一斋教诲的人们，成为推动幕末至明治日本的重要力量。
小林一茶十返舍一九曲亭马琴高田屋嘉兵卫平田笃胤调所广乡间宫林藏赖山阳
内容基于教科书和传记中可以确认的史实，不确定之处会注明。