作为坂上苅田麻吕之子生于以武人之家闻名的坂上氏。坂上氏是被认为是古代从朝鲜半岛渡来者后裔的东汉氏的一支，世代出产擅长弓马的武官。父亲苅田麻吕也是支撑朝廷军事的人物。
父亲苅田麻吕去世。田村麻吕仿佛继承父业一般，在守卫宫中的近卫府等处担任武官，逐渐受到朝廷的重视。据后来的记载，他体格魁梧，发怒时猛兽也会倒下，微笑时连孩子都愿意亲近他。
桓武天皇正在推进让东北地区不服从朝廷的人们（虾夷）归顺的战争。田村麻吕被任命为辅佐征东大使大伴弟麻吕的副使，第一次参与东北的战事。
这一年都城迁至平安京，田村麻吕作为副将军前往东北，在与虾夷的战斗中取得重大战果。一般认为，他在当地积累作战经验的过程中，不仅学会了以武力压制，也认识到了了解对方情况的重要性。
他被桓武天皇任命为征夷大将军，成为东北战争的总大将。征夷大将军后来成为武家政权首领的称号，但原本是像这样为对虾夷作战而设的军队统帅之职。田村麻吕成为这一称号的代表性武人。
据传这一时期他与僧人延镇一起在京都东山建造了清水寺。寺中流传着这样的故事：田村麻吕在猎鹿途中遇到延镇，被劝诫不要杀生，从此倾心于佛法。清水寺至今仍是京都具有代表性的寺院。
他率领大军前往东北，推进与虾夷的战争，把胆泽（岩手县奥州市一带）置于朝廷统治之下。此前朝廷军队曾多次遭受重大损失，田村麻吕的远征则取得了前所未有的成果。
他修筑胆泽城作为朝廷的据点。这一年，虾夷首领阿弖流为和母礼率领部众投降。田村麻吕带两人回到都城，请求饶他们性命、放他们回乡，但朝廷的贵族们没有听从，两人被夺去了生命。
他在胆泽城更北的地方修筑志波城（岩手县盛冈市一带），把朝廷的统治向北扩展。由于田村麻吕的努力，东北广大地区被纳入朝廷的统治。后来东北人民之间产生了许多关于田村麻吕的传说。
朝廷中出现了战争和营建新都城使百姓受苦的意见，桓武天皇决定停止这两项事业（德政相论）。原定由田村麻吕率领的下一次远征没有进行，这一年他出任参议，也参与了朝政。
平城上皇与嵯峨天皇对立，上皇企图前往东国时（药子之变），田村麻吕奉嵯峨天皇之命阻挡了上皇的去路，没有让争端扩大便平息了事态。部分因为这一功劳，他升任大纳言，成为朝廷重臣。
他在京都粟田的别墅病逝。嵯峨天皇深感悲痛，田村麻吕被葬于京都山科。传说他身披铠甲、面朝都城站立着下葬，后世的武士们把他尊为武人的楷模。
内容基于教科书和传记中可以确认的史实，不确定之处会注明。