河内国大鳥郡（今の大阪府堺市）に生まれた。父の家は朝鮮半島から渡ってきた人々の子孫と伝わる。
14歳で出家し、仏の教えを学んだ。唐で学んだ僧・道昭に教えを受けたとされ、道昭が人々のために井戸を掘り橋をかけた姿にも学んだと考えられている。
生家を寺（家原寺）にし、寺にこもらず人々の中に入って教えを説き始めた。弟子や信者とともに橋をかけ、池や道をつくり、旅人が休める布施屋も建てた。
許しなく民衆に教えを広め、人々を集めているとして、朝廷から名指しで活動を禁じられた。それでも行基を慕う人々は増え続けた。
朝廷の取り締まりがゆるみ、弟子の一部が正式に僧となることを許された。このころ、狭山池（大阪府）の修築や昆陽池（兵庫県）づくりなど、大きな池の工事にも力を尽くした。
聖武天皇に頼まれ、大仏づくりに協力した。かつて取り締まられた行基が、今度は国の大事業の中心になった。人々の力を集められるのは行基だった。
日本で初めて、僧として最高の位・大僧正に任じられた。
大仏の完成を見ることなく、81歳で亡くなった。生涯に49の道場（院）をひらいたと伝わり、日本地図「行基図」をつくったという言い伝えも残る。のちに「行基菩薩」とたたえられた。
教科書や伝記で確かめられる事実をもとにしています。不確かなことは「諸説あり」「と伝わる」としています。