生于佐野藩（栃木县）在江户的藩邸，出身藩士之家。家族世代担任剑术教习，由一作为继承人也学习武艺，但他从小就非常喜欢画画。
约在此时，他跟随狩野派画师学习日本传统绘画。由于体弱多病，他逐渐想在绘画而非武艺上立身。
约在此时，他看到一幅西洋石版画，被它栩栩如生的描绘深深震撼。从此，学习西洋绘画成为他毕生的目标。
他进入幕府西学研究机构蕃书调所的画学局，师从川上冬崖。但那里没有能真正画油画的老师，他只能摸索着继续研究。
他拜住在横滨的英国画家沃格曼为师，第一次学到了正规的油画技法。
他画了描绘吉原游女的《花魁》。据说模特看到完成的画作后哭着生气，说自己不是这副模样。这幅作品体现了由一力求如实描绘的执着。
他在东京日本桥开设画塾「天绘楼」，向许多弟子传授油画。同年，他还向维也纳万国博览会送展作品。
他接受应邀到工部美术学校任教的意大利画家丰塔内西的指导，进一步磨炼技艺。由一此时已年近五十，却仍热心学习。
约在此时，他画了用绳子吊着的咸鲑鱼《鲑》。作品连鱼肉的质感和鱼皮的光泽都细致地描绘出来，如今已成为重要文化财。
他在香川县金刀比罗宫举办的博览会上展出作品，并向神社奉献了许多画作。这些作品至今仍可在金刀比罗宫的高桥由一馆中看到。
他发行了被认为是日本最早的美术杂志《卧游席珍》。次年他又发表了建造展示油画的美术馆（螺旋展画阁）的构想。
应山形县令三岛通庸之托，他绘制了记录隧道和道路大工程情景的画作。后来他在福岛、栃木也做了类似的工作。
在东京去世。由一摸索着学习西洋绘画，奠定了日本油画的基础，被称为日本近代西洋画的开拓者。
松浦武四郎岩仓具视威廉·史密斯·克拉克狩野芳崖副岛种臣西周由利公正大久保利通
内容基于教科书和传记中可以确认的史实，不确定之处会注明。