SE-GCL: 一种基于事件的简单有效的图对比学习用于文本表示

文本表示学习作为自然语言处理的基石具有重要意义。近年来，图对比学习(GCL)因其能够在自监督设置中表示和捕获复杂文本信息而被广泛用于文本表示学习。然而，当前主流的图对比学习方法通常需要引入领域知识或繁琐的计算来指导数据增强过程，这极大地限制了GCL的应用效率和范围。此外，许多方法仅通过构建词-文档关系来学习文本表示，忽略了文本中丰富的上下文语义信息。为了解决这些问题并利用代表性的文本语义，我们提出了一种基于事件的简单有效的图对比学习(SE-GCL)用于文本表示。具体来说，我们从文本中提取事件块并构建内部关系图来表示语义间的相互联系，这可以确保保留最关键的语义信息。然后，我们设计了一个简化的无监督图对比学习框架，利用事件语义和结构信息的互补性来捕获复杂的特征数据。特别是，我们引入了事件骨架的概念用于核心表示语义，并简化了现有图对比学习中通常复杂的数据增强技术以提高算法效率。我们使用多个损失函数促使不同的嵌入在向量空间中的有限距离内收敛或发散，最终达到和谐平衡。我们在四个标准数据集（AG News、20NG、SougouNews和THUCNews）上对所提出的SE-GCL进行了实验，以验证其在文本表示学习中的有效性。