他出生于长野县新野村（今中野市）。他家是出过村长的旧家，但父亲突然去世后生活陷入困境。母亲一边养蚕一边独自把他抚养长大。即使生活贫困，他也是个非常喜欢唱歌的少年。
他在长野师范学校修完讲习课程后，成为小学代课教师。他非常喜欢唱歌，被孩子们亲切地称为“唱歌老师”。他对音乐的热爱与日俱增，心中怀抱着正式学习音乐的梦想。
他辞去故乡的教职前往东京。经由岛村抱月弟弟的关系，他住进文学家兼戏剧指导者岛村抱月的家里，一边当书生一边学习。与抱月的相遇，后来大大开启了晋平作为作曲家的命运。
他如愿考入东京音乐学校预科，次年升入本科钢琴科，正式学习西洋音乐。一边当书生一边学习十分辛苦，但在这里打下的音乐基础，后来成为他创作众多名曲的力量。
他从东京音乐学校本科毕业，成为东京浅草千束小学的专职音乐教师。他一边教孩子们唱歌，一边继续作曲。在教室里与孩子们一起唱歌的经历，被认为后来在创作贴近儿童心灵的童谣时发挥了作用。
他加入岛村抱月与松井须磨子等人创办的剧团艺术座，为托尔斯泰《复活》的演出创作了剧中歌《喀秋莎之歌》。经松井须磨子演唱后风靡全国，晋平一举成名。这首歌被认为是日本流行歌的开端之一。
他为艺术座上演的屠格涅夫《前夜》创作了剧中歌《贡多拉之歌》，歌中唱道“生命短暂，恋爱吧少女”。这首歌也大受欢迎，后来还被用于电影，成为跨越时代传唱的名曲。晋平的旋律深深打动了人们的心。
他以北原白秋的歌词，为改编自托尔斯泰作品的舞台剧创作了《流浪之歌》等剧中歌。这一时期的歌曲中，也有因歌词被认为有问题而被禁止发售唱片的。随着艺术座的演出，晋平的歌在大正时代广为人们传唱。
前一年岛村抱月去世，艺术座解散。失去恩人的晋平开始在儿童杂志《金船》上发表童谣。据说当时童谣还不太为人所知，他顾及自己学校老师的身份，便用别的名字发表。这是他探索新道路的时期。
他与诗人野口雨情合作，在《金船》上发表了大量童谣。《肥皂泡》《证城寺的狸猫伴奏》《晴天娃娃》等至今仍被传唱的童谣接连诞生。他还以雨情、西条八十、北原白秋的歌词，致力于歌唱各地风土的新民谣，数量超过一百四十首。
他辞去长期任职的千束小学教职，选择专心作曲。从童谣、新民谣到流行歌，他接连创作出各种各样的歌曲。他那明快亲切的独特曲调被称为“晋平调”，深受众多人的喜爱。
他成为日本胜利唱片公司的专属作曲家。通过世界级歌剧歌手藤原义江和佐藤千夜子的演唱，《波浮港》《出船港》等许多热门歌曲诞生。在唱片和广播普及的新时代，晋平的歌传进了更多人的耳中。
他与西条八十合作的《东京进行曲》经佐藤千夜子演唱，唱片销量达到创纪录的二十五万张。这一时期他创作的流行歌乐谱集也相继出版，加上竹久梦二封面画的人气，十分畅销。晋平成为日本流行歌的第一人。
两年前他已出任音乐家团体日本音乐文化协会理事长。随着战争日益激烈，他在这一年疏散到热海。同年他还出任保护作曲家权利的日本音乐著作权协会理事长，后来担任会长。战后他几乎不再作曲。
这一年正月，他担任NHK红白歌会的评审委员长。年底，他在电影院观看了使用他所作《贡多拉之歌》的电影《生之欲》，次日病倒，在热海的医院去世。据说他临终前还哼着自己创作的童谣《那个镇这个镇》。告别仪式上唱起了《喀秋莎之歌》。
松井须磨子山田耕筰萩原朔太郎谷崎润一郎菊池宽贺川丰彦岸田刘生金栗四三
内容基于教科书和传记中可以确认的史实，不确定之处会注明。