3代将軍足利義満の子として京都に生まれた。母は義満の側室・藤原慶子と伝わる。父の義満は南北朝の統一を目前にし、花の御所を拠点に将軍の力を大きく高めていた時期で、義持はその跡継ぎとして育てられた。
父の義満が将軍職を退き、幼い義持が4代将軍に就いた。しかし義満はその後太政大臣となり、出家してからも北山第で政治の実権を握り続けたため、若い義持は長いあいだ名目上の将軍にとどまった。
義満が急に亡くなった。義満は晩年、義持の弟の義嗣をかわいがっていたため跡継ぎ争いも心配されたが、重臣の斯波義将らに支えられて義持が実権を握った。朝廷が義満に「太上天皇」の称号を贈ろうとしたが、義持は辞退した。
義持は父が住んだ北山第を離れ、三条坊門の屋敷に移って政治を行った。北山第の建物はのちに多くが取り壊され、舎利殿（金閣）などが鹿苑寺として残された。父の派手な政治から、重臣と話し合う落ち着いた政治へと改めていった。
義持は、明の皇帝に臣下として仕える形をとる父の外交を好まず、明の使者を受け入れずに追い返し、日明貿易（勘合貿易）を中断した。貿易の利益よりも、日本が明に従う形になることを嫌ったためと考えられている。
義持は禅を深く信仰し、自らも絵を描いた。このころ画僧の如拙に描かせた「瓢鮎図」は、ひょうたんでナマズを押さえるという禅の問いを絵にしたもので、京都五山の多くの禅僧が詩を書き添えた。日本の水墨画の早い名作とされる。
関東で、前の関東管領・上杉禅秀（氏憲）が鎌倉公方の足利持氏にそむいて反乱を起こし、持氏は鎌倉を追われた。義持は幕府軍を送って持氏を助け、翌年に乱は鎮まった。この乱には弟の義嗣が関わっていたと疑われた。
義持は、反乱に関わった疑いで閉じこめていた弟の義嗣を許さず、義嗣はこの年に命を落とした。かつて父に愛された弟との争いはこうして終わったが、将軍家の中の不信は、のちの時代にも影を残すことになった。
義持は子の義量に将軍職を譲り、自らは出家した。しかし政治の実権は手放さず、重臣たちとの話し合いで政治を進め続けた。この時代は大きな戦乱が少なく、室町幕府が比較的落ち着いていた時期とされる。
5代将軍の義量が、まだ十代の若さで病のため亡くなった。義持には他に男の子がなく、将軍の座は空いたまま、義持が引き続き政治を見ることになった。跡継ぎを決めないままの状態が、のちの大きな問題につながった。
義持は病のため亡くなった。重臣たちが跡継ぎを尋ねても、義持は自分では決めず、重臣たちで決めるよう言い残したと伝わる。その結果、弟たちの中から石清水八幡宮でのくじ引きで義円が選ばれ、のちの6代将軍足利義教となった。
教科書や伝記で確かめられる事実をもとにしています。不確かなことは「諸説あり」「と伝わる」としています。