他出生于播磨姬路。祖母是土佐藩主山内一丰的妹妹，父亲曾侍奉山内家，却因未得到许诺的领地而沦为浪人。母亲是大坂商人之女。父亲死后，兼山随母亲回到土佐，借着与山内家的关系走上了新的道路。
据说这一时期，他成为父亲的堂兄弟、担任藩奉行的野中直继的养子。不久他举行元服，取名良继。兼山是他的号，后来他也号高山。他的家世与才干都受到看重，年纪轻轻便接近了藩政的中枢。
他与养父直继一同被任命为藩奉行。他还师从儒学者谷时中学习朱子学，试图将土佐儒学“南学”的思想付诸政治实践。同门后辈中有山崎闇斋，据传兼山后来曾庇护被逐出寺院的闇斋。
养父直继病逝后，他继承了野中家。藩主山内忠义命兼山重整藩政。兼山通过修筑堤防、开垦平原增加稻米产量，并有计划地利用杉树、桧树等森林资源充实藩库。为防止过度砍伐，他还引入了轮流采伐的制度。
他着手在物部川上修建山田堰。这座堰体呈弧形斜跨水流，使用了大量松木和石材。从堰引出的水使新田接连开辟，据说兼山时代开发的新田达到7万5千石。工程历时长达二十五年才完工。
他着手修建手结港。这座港口是向陆地挖掘而成的，被认为是日本最早的挖入式港口。他还在室户岬附近修建了供船只避风的港口。此外，他鼓励种植作为和纸原料的楮树、制作鲣节，并从外地招人把捕鲸技术传授给土佐渔民。
手结港竣工。为防止港口被泥沙淤塞，人们用细长的水道连接内港，并修筑了长长的堤坝。这一时期，他还从大坂引进鲤鱼、鲇鱼和银鱼放入河中，力图使其在土佐定居。据说城下百姓从未见过鲇鱼，纷纷聚集前来观看。
前一年藩主忠义隐居，其子忠丰继任藩主，但兼山仍受重用。这一年，他获得与忠丰一同在江户城拜见将军德川家纲的荣誉。然而，他不拘身份提拔乡士的政策和沉重的负担，正一点点积累着藩士与领民的不满。
为稳定米价，他在土佐藩历史上首次颁布了公布米的公定价格的命令。他还依据儒学思想，力图改变人们的生活与习俗，例如命令对无亲无故的死者和病人也要郑重安葬。另一方面，工程中严苛的劳役也激起了人们的强烈反感。
不满兼山施政的藩士们向藩主忠丰呈递了弹劾兼山的文书，指责他优待乡士而不顾藩士疾苦，并以沉重劳役和垄断制度使农民和町人受苦。忠丰与亲族大名商议后罢免了兼山，兼山离开了职位。
失势后，兼山迁居到他倾注心血的山田堰工地附近，不久便病逝。他的家人被移往宿毛，遭受长期幽禁的严厉处分。尽管如此，百姓仍偷偷为他建祠祭祀，后来成为春野神社。据说山田堰正是在这一年完工的。
千姬德川家光中江藤树保科正之河村瑞贤熊泽蕃山天草四郎三井高利
内容基于教科书和传记中可以确认的史实，不确定之处会注明。