生于河内国大鸟郡（今大阪府堺市）。据说父亲家族是从朝鲜半岛渡来者的后裔。
14岁出家学习佛法。据说曾受教于在唐朝学习过的僧人道昭，人们认为道昭为百姓掘井架桥的事迹也影响了他。
将故居改为寺院（家原寺），不闭居寺中，而是走进民众中讲经说法。与弟子和信众一起架桥、修池筑路，还修建了供旅人歇息的布施屋。
朝廷以未经许可向民众传教、聚集人群为由点名禁止他的活动。但仰慕行基的人仍不断增加。
朝廷的取缔放宽，部分弟子获准正式出家。此时他还致力于修缮狭山池（大阪府）、修建昆阳池（兵库县）等大型水池工程。
应圣武天皇之请协助建造大佛。曾经被取缔的行基，如今成为国家大事业的核心，因为能凝聚民众力量的正是他。
在日本首次被任命为僧侣最高职位大僧正。
他未能看到大佛完成，81岁去世。相传他一生开设了49处道场，还有他绘制日本地图"行基图"的传说。后人尊称他为"行基菩萨"。
内容基于教科书和传记中可以确认的史实，不确定之处会注明。