SentiCSE：一种具有情感引导文本相似度的情感感知对比句嵌入框架
计算与语言
2024-04-02 v1
摘要
近年来，情感感知预训练语言模型在下游情感分析任务中展现出优异的效果。然而，这些模型忽略了评估其所构建情感表示的质量；它们仅关注提升微调性能，从而掩盖了表示质量的问题。我们认为，若无法保证表示质量，其下游性能将高度依赖于微调数据的监督，而非表示质量本身。这一问题使得它们难以拓展至其他情感相关领域，尤其是在标注数据稀缺的情况下。我们首先提出了情感引导文本相似度，这是一种用于评估情感表示质量的新颖指标，其基于两句话之间情感极性的等价程度进行设计。随后，我们提出 SentiCSE，一种新颖的情感感知对比句嵌入框架，通过结合词级和句级目标来构建情感表示，其质量由 SgTS 保证。与以往情感感知预训练语言模型的定性和定量对比展示了本工作的优越性。我们的代码可在以下地址获取：https://github.com/nayohan/SentiCSE
引用
@article{arxiv.2404.01104,
title = {SentiCSE: A Sentiment-aware Contrastive Sentence Embedding Framework with Sentiment-guided Textual Similarity},
author = {Jaemin Kim and Yohan Na and Kangmin Kim and Sang Rak Lee and Dong-Kyu Chae},
journal= {arXiv preprint arXiv:2404.01104},
year = {2024}
}
备注
14 pages, 8 figures