XL-DURel: 为序向Word-in-Context分类精调Sentence Transformer
计算与语言
2025-11-07 v2
摘要
我们提出了XL-DURel,一个针对序向Word-in-Context分类进行的精调、多语言Sentence Transformer模型。我们测试了多种用于回归和排序任务的损失函数,通过在复杂空间中基于角距离的排序目标,我们成功超越了以往模型在序向和二分类数据上的表现。我们进一步表明,二分类WiC可视为序向WiC的特殊情况,针对更一般的序向任务进行模型优化可提升针对更具体二分类任务的性能。这为跨不同任务格式统一处理WiC建模铺平了道路。
引用
@article{arxiv.2507.14578,
title = {XL-DURel: Finetuning Sentence Transformers for Ordinal Word-in-Context Classification},
author = {Sachin Yadav and Dominik Schlechtweg},
journal= {arXiv preprint arXiv:2507.14578},
year = {2025}
}
备注
9 pages