江戸にある佐野藩（栃木県）の屋敷で、藩士の家に生まれた。家は剣術の指南役をつとめる家柄で、由一も跡継ぎとして武芸を学んだが、幼いころから絵を描くことが大好きだった。
このころ、狩野派の絵師について日本の伝統的な絵を学んだ。体が弱かったこともあり、武芸の道よりも絵の道で身を立てたいと考えるようになっていった。
このころ、西洋の石版画を見て、まるで本物のように描かれていることに強い衝撃を受けた。これをきっかけに、西洋の絵を学ぶことを一生の目標にした。
幕府の洋学研究所である蕃書調所の画学局に入り、川上冬崖に学んだ。しかし本物の油絵を描ける先生はおらず、手さぐりで研究を続けた。
横浜に住むイギリス人の画家ワーグマンに入門し、初めて本格的な油絵の技法を学んだ。
吉原の遊女を描いた『花魁』を描いた。モデルの女性はできあがった絵を見て、自分はこんな顔ではないと泣いて怒ったと伝わる。ありのままを写そうとする由一のこだわりを示す作品である。
東京・日本橋に画塾「天絵楼」を開き、多くの弟子に油絵を教えた。同じ年、ウィーン万国博覧会にも作品を出品した。
工部美術学校に招かれたイタリア人の画家フォンタネージの指導を受け、さらに技術をみがいた。由一はこのとき40代の後半だったが、熱心に学び続けた。
このころ、縄でつるされた塩鮭を描いた『鮭』を描いた。身の質感や皮の光り方までを細かく写した作品で、今は重要文化財になっている。
香川県の金刀比羅宮で開かれた博覧会に作品を出品し、多くの作品を奉納した。これらの作品は今も金刀比羅宮の高橋由一館で見ることができる。
日本で最初の美術雑誌とされる『臥遊席珍』を出した。翌年には、油絵を並べて見せる美術館（螺旋展画閣）をつくる構想も発表した。
山形県の県令だった三島通庸に頼まれ、トンネルや道路の大工事のようすを記録する絵を描いた。のちに福島・栃木でも同じような仕事を行った。
東京で亡くなった。手さぐりで西洋の絵を学び、日本の油絵の基礎を築いた由一は、日本近代洋画の開拓者と呼ばれている。
松浦武四郎岩倉具視ウィリアム・S・クラーク狩野芳崖副島種臣西周由利公正大久保利通
教科書や伝記で確かめられる事実をもとにしています。不確かなことは「諸説あり」「と伝わる」としています。