通过对齐稀疏上下文词表示克服跨语言词义消歧中的多语诅咒
计算与语言
2023-07-27 v1 人工智能
摘要
本文主张在跨语言零样本词义消歧（WSD）中结合上下文映射机制，使用大型预训练单语语言模型。我们还报告了严谨的实验，说明了采用通过字典学习过程获得的稀疏上下文词表示的有效性。实验结果表明，上述改进在 17 种类型多样的目标语言集合上使平均 F 值显著提升近 6.5 个点（从 62.0 升至 68.5）。我们在 https://github.com/begab/sparsity_makes_sense 发布了用于复现实验的源代码。
引用
@article{arxiv.2307.13776,
title = {Combating the Curse of Multilinguality in Cross-Lingual WSD by Aligning Sparse Contextualized Word Representations},
author = {Gábor Berend},
journal= {arXiv preprint arXiv:2307.13776},
year = {2023}
}
备注
Presented at NAACL2022