生于陆奥一关（岩手县），父亲是一关藩的医生大槻玄梁。他在医生家庭长大，自幼便亲近学问。
他拜家乡一关的名医建部清庵为师，开始学医。清庵对荷兰医学抱有浓厚兴趣，与江户的杉田玄白书信往来、交流见解，玄泽也深受其影响。
他来到江户进入杉田玄白的私塾，又跟随前野良泽学习荷兰语。据说「玄泽」之名是从两位老师玄白和良泽的名字中各取一字而来。
他前往长崎，在荷兰语翻译（荷兰通词）门下更深入地学习荷兰语。在当地学到的知识，对他日后的研究和教学大有帮助。
他被仙台藩聘为藩医，定居江户。他在江户开设兰学私塾「芝兰堂」，教授来自全国各地的年轻人，培养出宇田川玄真、稻村三伯等优秀弟子。
他出版了荷兰语和兰学的入门书《兰学阶梯》。此书写得让初学者也能看懂，成为许多人学习兰学的契机。
在相当于西历1月1日的这一天，他把兰学家们召集到芝兰堂庆祝新年。这被称为「荷兰新年」，此后几乎每年都举行。
应老师杉田玄白之托，他订正《解体新书》的错误，完成了修订版《重订解体新书》（28年后出版）。这是一项为传播更准确的解剖学知识而进行的大工程。
他听取从俄国归来的仙台漂流民津太夫等人的讲述，整理成附有地图和插图的记录《环海异闻》。他们环游世界一周归来的经历，成为了解俄国和外国情况的珍贵资料。
他在幕府天文方下设的蛮书和解御用（翻译机构）从事荷兰语书籍的翻译，还参与了翻译一部法国百科全书荷兰语版的《厚生新编》。
《重订解体新书》终于出版。这一年，荷兰商馆的医生西博尔德访问江户，许多兰学家都想向他学习新知识。
在江户去世。芝兰堂成为向全国传播兰学的中心，他的学问由儿子大槻玄干以及编纂国语辞典《言海》的孙子大槻文彦继承。
上杉鹰山大黑屋光太夫喜多川歌麿最上德内良宽松平定信葛饰北斋华冈青洲
内容基于教科书和传记中可以确认的史实，不确定之处会注明。