结合对比学习的神经主题模型
1、研究概述
在以Cycle-GAN为基准的神经主题模型中,引入对比学习, 直接对生成器部分产生作用,使模型训练与模型评估对齐,获得一致性更好的“主题-单词”分布。
2、主要工作
采用Cycle-GAN作为基准模型,使对比学习能够直接作用于“主题-单词”分布的学习;
基于Cycle-GAN的结构特性,提出了一种针对主题分布的数据增强方法;
设计了自监督对比损失和判别对比损失,在获得更好“主题-单词”分布的同时,维持模型各部分平衡。
3、研究成果
论文被CCF-A类会议 ACL 2023录用(第一作者)。