当时日军投降后，驻扎越南一部分日军（约600至1000名日本兵）不愿意投降回国，在越盟发动八月革命及其后陆续加入越南解放军。当时这批人包括了日军南方军独立混成第34旅团参谋井川省少佐，还有第38军55师团参谋石井卓雄（改名为陈志勇）及陆军少佐中原光信（化名阮明球）、陆军少尉谷本喜久男等人。这批人在1946年胡志明发起反法动员后主动请缨为胡志明效命，还将一批日军遗留下来的武器移交给越南解放军。

这些日本军人由于曾受过军事训练，得到胡志明信任，井川省领导的日军被指派为越盟的军事参谋与总指挥。这批日军在1946年12月20日之后越盟反法河内保卫战中和越南人一起抵抗法国人。这些戴着黄色星形帽子日军与越南人在战壕内抵抗法国，越盟对其十分信任。

但是新成立越南军队缺乏足够的武装力量来对抗法国军队，也没有足够的武器对抗法国人的装甲战坦克和压倒性的火力，保卫河内斗争十分困难。

于是越南时任的国防部长武元甲让化名阮爱越的井川省指挥作战，这名日军按照河内的地形图制定了保卫作战的攻势，在要点布置了反坦克三角爆破筒，并建议武元甲成立决死队用必死决心保卫河内，然而由于当时参战的越南军队大多是民兵性质，虽然全民抵抗法军，最后这场轰轰烈烈的河内保卫战还是成为自杀式的保卫战，而井川省也在战斗中死亡。

当时法军采取速战速决方针,从河内城市向周围地区进攻，逐步控制红河三角洲地区，最终拿下河内，迫使越南军队进入越北丛林进行游击战争。

中越双料将军洪水

越盟在抗法战争知道越军实力不济，于是利用数百名日军帮助越军进行军事训练。当时日军少佐石井卓雄奉武元甲的命令在越南中部开设广义陆军中学，为越南军队训练军事人才。当时广义陆军中学校长是著名的将军洪水（被中越两国授予少将军衔），广义陆军学校分为四个大队，每个大队分别安排了1名指导教官、1名助教、1 ~ 2名翻译官。教官负责实际操作指导，副教官负责指导内容的现场讲解(战斗动作等)和战场生活必需的知识传授，而担任教官的全部都是日军的军官。日本军官带出了第一代的北越军人，而且日军当时帮助越南初步制定了军衔制度，至今越南军衔中校官称为佐官，这就是当年受到日军的影响。这批日军军官，有多名在反法中死去，石井卓雄在1950年反法战斗中因为法军的地雷而死亡。

值得一提是这批参加越盟的日本兵中还有一些曾是日占台湾时从军的台湾人，如施军爝、陈篡地与吴连义。这些在战后不属于日本人的“日本兵”最后因为无法回故乡，最终在越南娶妻生子安家。而其他存活的日本兵在奠边府战争后越南于1954年将幸存日军遣返，这些日军得以后返回日本，上文提及的中原光信和谷本喜久男等人就曾活到1990年代。

这批日军对于1945年越盟而言有帮助，但是这批日军之所如此帮助胡志明，关键就是为了逃避战后的审判，事实也证明这批日军只要在反法战争中存活下来最后的结局都还可以。而越南对于这批日本兵起初并不宣扬，只是提及日军曾造成是越南大饥荒事件。为何如此，因为胡志明在抗美时期日本是美国阵营，而日本人也是被视为越南敌人。

随着1975年越南统一及之后革新开放，日本和越南的交流正常化，越南开始提及这些日本兵，并在近年来邀请存活的日本并回到越南，2017年时任日本天皇的明仁夫妇访越期间，越南还特意安排一批曾经参加越盟的日军越南家属会见明仁夫妇，体现所谓日越交流友情。