基于多语言同词多义图的低资源语言跨语言迁移学习
计算与语言
2023-10-20 v2 人工智能
摘要
在比较语言学中，同词多义（colexification）指一个词形表达两个或多个不同含义的现象。现有关于同词多义模式的研究依赖于标注词表，限制了其在自然语言处理中的可扩展性与实用性。相比之下，我们直接从无标注平行语料库中识别出跨越1335种语言的2000多个概念的同词多义模式。随后，我们提出简单而有效的方法来从这些同词多义模式构建多语言图：ColexNet与ColexNet+。ColexNet的节点为概念，边为同词多义关系。在ColexNet+中，概念节点还通过中间节点相连，每个中间节点表示1334种语言之一的n元语法。我们使用ColexNet+训练，即高质量的多语言嵌入，非常适用于迁移学习。在实验中，我们首先表明ColexNet在CLICS（一个跨语言同词多义数据集）上取得了高召回率。随后我们在回译翻译、句子检索和句子分类上评估，并表明我们的嵌入超越了多个迁移学习基线。这证明了在多语言NLP中使用同词多义作为信息来源的好处。
引用
@article{arxiv.2305.12818,
title = {Crosslingual Transfer Learning for Low-Resource Languages Based on Multilingual Colexification Graphs},
author = {Yihong Liu and Haotian Ye and Leonie Weissweiler and Renhao Pei and Hinrich Schütze},
journal= {arXiv preprint arXiv:2305.12818},
year = {2023}
}
备注
EMNLP 2023 Findings