基于全面句子语义的无监督词替换候选排序
计算与语言
2025-09-16 v1 人工智能
摘要
词替换的关键子任务之一是对给定候选词进行排序。常见方法是将目标词替换为候选词,然后输入模型以捕获替换前后的语义差异。然而,有效建模候选替换对目标词及其上下文之间双向影响仍具有挑战性。现有方法常仅关注目标位置的语义变化,或依赖参数调优过多个评估指标,难以准确刻画语义变化。为此,我们研究了两种方法:一种基于注意力权重,另一种利用更具可解释性的集成梯度方法,两者都旨在衡量上下文标记对目标标记影响,并通过纳入原句与替换句之间的语义相似性来对候选词进行排序。在 LS07 和 SWORDS 数据集上的实验表明,这两种方法都能提高排序性能。
引用
@article{arxiv.2509.11513,
title = {Unsupervised Candidate Ranking for Lexical Substitution via Holistic Sentence Semantics},
author = {Zhongyang Hu and Naijie Gu and Xiangzhi Tao and Tianhui Gu and Yibing Zhou},
journal= {arXiv preprint arXiv:2509.11513},
year = {2025}
}