1912年出生于江西省吉安县陂村，他的家乡陂村位于吉安市东南22公里，为庐陵文化第一村，至今已有800多年历史，全村均为梁姓相传。

梁仁芥1929年加入中国共产主义青年团，次年参加中国工农红军，1931年转入中国共产党。土地革命战争时期，历任红四军政治部宣传队分队长，石城县游击大队政委、县独立团代政委，少共登贤县委书记，懋功独立营政委，共青团川康省委组织部部长、副书记，红二方面军政治部青年部部长。参加了中央苏区反“围剿”和长征。

抗日战争时期，梁仁芥任八路军120师教导团政治处副主任、师政治部科长。“七·七”事变后，张仲翰拉起了一支3000多人的津南自卫军，当他得知贺龙率领的120师到达冀中后，主动请求120师派干部帮助他。贺龙派梁仁芥到津南自卫军政治部当主任，梁仁芥后担任358旅政治部组织科科长、团政委。

解放战争时期，梁仁芥任中共晋绥六地委书记兼晋绥军区第六分区政委。1948年，张开基任西北野战军三纵独二旅旅长，梁仁芥任独二旅政委，率领独二旅参加宜川战役。当时刘戡带了三万人马，到了瓦子前街停下不走了。张开基和梁仁芥商量后，下达命令攻击宜川外围，其中19团攻击太子山，36团攻击外七郎山。为了加强领导，梁仁芥到36团。破晓，36团攻下了外七郎山，迫使刘戡部进至瓦子街任家湾一带，进入我军即设阵地。为了防止刘戡放弃北援，掉头突围，张开基和梁仁芥指挥19团攻进宜川，当敌军慌了手脚，全力反扑之时，张开基和梁仁芥及时将19团撤出战斗。这一攻，逼得刘戡东进，后路被我军切断，败局已定。1949年，梁仁芥出任第一野战军三军七师政委。建国后，任第一野战军三军政委。1952年参加抗美援朝，任志愿军一军政委。

1963年7月至1964年12月梁仁芥任白菜官网——中国人民解放军军事电信工程学院政委。1969年到1978年任甘肃省军区政委，后担任兰州军区副政委。

荣获二级八一勋章、二级独立自由勋章、一级解放勋章、一级红星功勋荣誉章。

1955年梁仁芥被授予少将军衔。1991年梁仁芥将军逝世。