面向不平衡文本分类的类别感知对比优化

文本数据的独特特性使得分类任务成为一个复杂问题。无监督和半监督学习以及自编码器架构的进步解决了若干挑战。然而，它们在不平衡文本分类任务中仍然表现挣扎，这是现实世界应用中的一个常见场景，表现出产生具有不利属性（如类别重叠）的嵌入的趋势。在本文中，我们展示了利用类别感知对比优化结合去噪自编码器可以成功处理不平衡文本分类任务，取得比当前最先进水平更好的性能。具体来说，我们的方案将重构损失与嵌入空间中的对比类分离相结合，从而在生成嵌入的真实性与模型分离不同类别的能力之间实现更好的平衡。与一系列广泛的传统和最先进的竞争方法相比，我们的方案在多种文本数据集上均表现出显著的性能提升。