武人の家として知られる坂上氏に、坂上苅田麻呂の子として生まれた。坂上氏は古く朝鮮半島から渡ってきた人々の子孫とされる東漢氏の一族で、代々弓や馬にすぐれた武官を出していた。父の苅田麻呂も朝廷の軍事を支えた人物だった。
父の苅田麻呂が亡くなった。田村麻呂は父の跡を継ぐように、宮中を守る近衛府などで武官としてつとめ、しだいに朝廷で重んじられていった。体格がよく、怒れば猛獣もたおれ、笑えば子どももなつくような人物だったと、のちの記録に伝わる。
桓武天皇は、東北地方で朝廷に従わない人々（蝦夷）を従わせるための戦いを進めていた。田村麻呂は征東大使の大伴弟麻呂を助ける副使に任じられ、初めて東北での戦いにかかわることになった。
平安京へ都が移されたこの年、田村麻呂は副将軍として東北へ向かい、蝦夷との戦いで大きな成果をあげた。現地での戦いの経験を重ねる中で、ただ武力で押さえつけるだけでなく、相手の事情を知ることの大切さも学んでいったと考えられている。
桓武天皇から征夷大将軍に任じられ、東北での戦いの総大将となった。征夷大将軍はのちに武家政権の長の称号となるが、もとはこのように蝦夷との戦いのための軍の長の役職だった。田村麻呂はその名を代表する武人となった。
このころ、僧の延鎮とともに京都の東山に清水寺を建てたと伝わる。田村麻呂が鹿狩りの途中で延鎮に出会い、殺生をいましめられて仏の教えに心を寄せたという話が寺に伝えられている。清水寺は今も京都を代表する寺である。
大軍を率いて東北へ向かい、蝦夷との戦いを進めて、胆沢（岩手県奥州市付近）の地を朝廷の支配の下に置いた。これまでの戦いで朝廷の軍は何度も大きな損害を受けていたが、田村麻呂の遠征はそれまでにない成果をあげた。
胆沢城を築いて朝廷の拠点とした。この年、蝦夷の指導者アテルイ（阿弖流為）とモレ（母礼）が仲間を率いて降伏した。田村麻呂は二人を連れて都へ戻り、命を助けて故郷へ帰すよう願ったが、朝廷の貴族たちは聞き入れず、二人は命を奪われた。
胆沢城のさらに北に志波城（岩手県盛岡市付近）を築き、朝廷の支配を北へと広げた。田村麻呂の働きによって、東北の広い地域が朝廷の支配の下に入った。のちの東北の人々の間では、田村麻呂にまつわる多くの伝説が生まれた。
朝廷では、戦いと新しい都の造営が民を苦しめているとの意見が出され、桓武天皇は二つの事業を中止することを決めた（徳政相論）。予定されていた田村麻呂の次の遠征は行われず、田村麻呂はこの年、参議となって政治の場にも加わった。
平城上皇と嵯峨天皇が対立し、上皇が東国へ向かおうとしたとき（薬子の変）、田村麻呂は嵯峨天皇の命を受けて上皇の行く手をさえぎり、争いを大きくせずにおさめた。この功もあって大納言に進み、朝廷の重臣となった。
京都の粟田にあった別荘で病のため亡くなった。嵯峨天皇はその死を深く悲しみ、田村麻呂は京都の山科に葬られた。武具を身につけ、都の方を向いて立ったまま葬られたという伝説があり、のちの武士たちから武人の手本としてあがめられた。
教科書や伝記で確かめられる事実をもとにしています。不確かなことは「諸説あり」「と伝わる」としています。