面向方面级情感分析的对比变分信息瓶颈方法
计算与语言
2023-12-22 v3 人工智能
摘要
深度学习技术已在方面级情感分析（ABSA）的文献中占据主导，取得了最先进的性能。然而，深度模型普遍遭受输入特征与输出标签之间的伪相关，这严重损害了鲁棒性与泛化能力。本文中，我们提出通过一种新颖的对比变分信息瓶颈框架（称为CVIB）来减少ABSA的伪相关。所提出的CVIB框架由一个原始网络和一个自剪枝网络组成，这两个网络通过对比学习同时优化。具体而言，我们采用变分信息瓶颈（VIB）原则从原始网络学习一个信息丰富且压缩的网络（自剪枝网络），其丢弃了输入特征与预测标签之间多余的模式或伪相关。然后，设计自剪枝对比学习以拉近语义相似的正样本对并推远不相似的对，其中由原始网络和自剪枝网络分别学习到的锚点表示被视为正样本对，而一个小批量内两个不同句子的表示被视为负样本对。为验证我们CVIB方法的有效性，我们在五个基准ABSA数据集上进行了大量实验，实验结果表明我们的方法在整体预测性能、鲁棒性和泛化方面均优于强大的竞争对手。复现本文结果的代码与数据可见于：https://github.com/shesshan/CVIB。
引用
@article{arxiv.2303.02846,
title = {Contrastive variational information bottleneck for aspect-based sentiment analysis},
author = {Mingshan Chang and Min Yang and Qingshan Jiang and Ruifeng Xu},
journal= {arXiv preprint arXiv:2303.02846},
year = {2023}
}
备注
Accepted by Knowledge-Based Systems (KBS)