1917年,余建勋在山耳寺小学毕业。
1918年9月,考入省立第五师范学校。
1922年,考入云南讲武堂步科,毕业后历任滇军排、连、营长。
1935年,率部声援班洪地区人民抗击英军入侵的斗争。
1937年10月,余建勋在六十军一八二师五二九旅一0七七团任上校团长,后任新三军一八师师长余建勋等职。
1938年3月,曾率部参加台儿庄会战,奉命守卫禹王山。4月28日,日军一个大队配备坦克、骑兵进犯禹阳新战役、长沙一、二、三次会战。
1941年,任第一集团军一八三师少将师长,率部参加第九战区湘赣会战,在赣北奉新、高安等地作战。在长衡会战中,率军戴断粤汉,封锁湘江航道,攻克重镇遂川,固守吉安。
1947年,余建勋回云南。
1948年,被卢汉委任省第七区行政督察专员兼区保安司令。接管车里、佛海3个兵站的枪炮弹药,装备2个师的武器,押运到昆明。
1949年3月,任保安第二旅旅长驻大理,5月,兼滇西剿匪指挥部指挥官。同年6月,在保山平息“共革盟”。同年9月,任七十四军中将军长。12月9日,率部参加卢汉起义,调任中国人民解放军暂编第十二军军长,率部参加昆明保卫战和滇南战役。
1950年10月,余建勋任中国人民解放军第14军副军长。
1953年,任云南省军区军事室主任。
1954年,任云南省体委副主任。
1959年后,任云南省参事室参事、副主任,主持主编《滇军史》,历任省一届人民代表,省政协一、二、三届政协委员;省第四、五届政协常委。
1985年,应邀参加中共云南省第四次代表大会。曾应邀参加14军“两山”战役庆功会,为战斗英雄授奖。余建勋多次回故乡,对施甸建设提出许多宝贵意见。
1985年,施甸县政府在昆明云南印刷厂召开的同乡会时,他已80岁高龄,以德高望重的长者身分发表了近两小时的长篇讲话。
1986年6月21日,在昆明逝世。