1926年6月,吉安县县长冷照升及驻吉安滇军十二师师长金汉鼎为对付赣西日益高涨的土地革命运动,电召罗炳辉来吉协助。罗炳辉早有拉队伍投奔红军的念头,于是利用这个机会应召前来吉安,担任江西省吉安县八乡联防队改编的靖卫大队大队长。罗炳辉到吉安上任后,利用工作之便,多方打听共产党和红军的情况。赣西特委分析了罗炳辉的历史和表现,决定争取罗炳辉参加革命队伍。特委得到上级的帮助, 找到罗炳辉的同乡好友共产党员赵醒吾,首先通过赵醒吾对罗炳辉进行争取教育工作。1929年7月,赵醒吾以中共江西省委特派员身份,从南昌专程来到吉安会见了罗炳辉,启发他的觉悟,忠告他靠近共产党。通过促膝谈心,罗炳辉表示愿意跟共产党干革命。接着,中共赣西特委常委、组织部长刘士奇和江西省委军事巡视员蔡申熙找罗炳辉谈话,秘密发展罗炳辉为中共党员,在党内改名为“罗南煌”。要他设法把邻县靖卫队抓到自己手里,做好起义的准备。罗炳辉完全接受党的指示、忠实地进行党的工作,并将峡江靖卫大队长杨必恭争取过来参加革命。通过罗炳辉的秘密串联,使永新、泰和、吉水、永丰等县的靖卫队消极地应付上司命令,大大减少了对各县农民武装的压力,有力地支援了革命形势的发展。
1929年9月,国民党江西省政府改组,湘系军阀鲁涤入主江西,湘系排斥滇系,由“在湖南宰割工农的老屠夫”成光耀的148旅接替金汉鼎部进驻吉安。成光耀接防后,一方面加强内部“绥靖”,一方面加强进攻红军游击队,破坏中共在吉安城内的地下党组织。中共赣西特委为反击敌人的进攻,于10月25 日作出了 “攻取吉安”的决定,计划以江西红军独立第二、四团为攻吉安主力,罗炳辉的靖卫大队做内应。 罗炳辉在接到中共赣西特委的指示信后,积极准备起义工作。正当罗炳辉起义工作紧锣密鼓地进行时, 发生了一件意外的事情。11月8日吉安城内地下党、团机关遭到敌人的严重破坏,赣西团特委书记曾道懿被敌人逮捕后叛变,供出吉安城全部组织和文件,致使省委特派员赵醒吾、赣西特委常委黄义、申中三位领导人和40多名党员、70多名团员不幸被捕,惨遭杀害。敌人在缴获江西省委文件中发现罗炳辉与共产党有联系,掌握了罗炳辉等部准备起义的确凿证据,就以补发欠饷为诱饵,命令罗炳辉率部回城,乘机予以缴械。在这紧要关头,赣西特委常委曾山一面组织赣西特委机关转移到南路的陂头,调整攻吉安计划;一面亲自送信给已经暴露地下党员身份的罗炳辉,告知党的重要机关被破坏,令其提前率部起义。 罗炳辉接到曾山送来的信后,当机立断举行起义,宣布全大队180余人开往苏区。1929年11月15日, 起义队伍由值夏开往东固革命根据地的新坏,受到省委、赣西特委领导蔡申熙、江汉波、刘士奇、曾山等人的热烈欢迎。16日,开进富田。所经各村,受到苏区军民及群众团体的隆重欢迎和亲切慰劳。在富田,赣西特委书记刘士奇、省军委书记蔡申熙及曾山、曾炳春等带领苏区革命武装和广大群众举行了隆重热烈的欢迎大会。刘士奇代表党组织宣布:起义的吉安靖卫大队改编为江西工农红军独立第五团,罗炳辉任团长。不久,罗炳辉领导的红五团与红四团合并,改称红四团,罗炳辉仍任团长。罗炳辉在吉安起义,是中国革命处于低潮时,起义部队从强大的敌人营垒中冲杀出来的一次壮举。罗炳辉起义不仅为红军增添了新的力量,配合了赣西南地方革命武装第一次攻打吉安的斗争,为配合“朱毛红军”创建赣西、闽南革命根据地,在吉安成立江西省苏维埃政府,起了非常重要的作用。