携手理解语义——从预训练静态义项嵌入学习元义项嵌入
计算与语言
2023-05-31 v1
摘要
义项嵌入学习方法为给定的歧义词学习多个向量，对应于其不同的词义。为此，先前关于义项嵌入学习的工作提出了使用不同义项词典、义项标注语料库和学习方法的不同方法。然而，由于训练资源的差异，并非所有现有义项嵌入都能同样好地覆盖歧义词的所有义项。为解决此问题，我们提出了首个元义项嵌入方法——邻域保持元义项嵌入（Neighbour Preserving Meta-Sense Embeddings），该方法通过组合多个独立训练的源义项嵌入来学习元义项嵌入，使得从源嵌入计算的义项邻域在元嵌入空间中得以保持。我们提出的方法可以组合覆盖不同词义集合的源义项嵌入。在词义消歧（WSD）和上下文词义（WiC）任务上的实验结果表明，所提出的元义项嵌入方法持续优于多个有竞争力的基线。
引用
@article{arxiv.2305.19092,
title = {Together We Make Sense -- Learning Meta-Sense Embeddings from Pretrained Static Sense Embeddings},
author = {Haochen Luo and Yi Zhou and Danushka Bollegala},
journal= {arXiv preprint arXiv:2305.19092},
year = {2023}
}
备注
Accepted to Findings of ACL 2023