通过中间相遇改进跨语言词嵌入
计算与语言
2018-08-28 v1
摘要
跨语言词嵌入在多语言NLP中正变得日益重要。近来研究表明,这些嵌入可通过线性变换对齐两个不相交的单语向量空间来有效学习,仅使用不超过小型双语词典作为监督。在本工作中,我们提议在初始对齐步骤后施加一个额外变换,将跨语言同义词移向它们之间的中间点。通过应用此变换,我们的目标是获得向量空间更好的跨语言整合。此外,或许令人惊讶的是,单语空间也因该变换而改善。这与原始对齐相反,原始对齐通常学习为保持单语空间的结构。我们的实验证实,所得的跨语言嵌入在单语与跨语言评测任务中均优于SOTA模型。
引用
@article{arxiv.1808.08780,
title = {Improving Cross-Lingual Word Embeddings by Meeting in the Middle},
author = {Yerai Doval and Jose Camacho-Collados and Luis Espinosa-Anke and Steven Schockaert},
journal= {arXiv preprint arXiv:1808.08780},
year = {2018}
}
备注
11 pages, 4 tables, 1 figure. EMNLP 2018 camera-ready