GARI：面向阿拉伯语词嵌入相对同构的图注意力方法
计算与语言
2023-10-23 v1
摘要
双语词典归纳（BLI）是 NLP 中的核心挑战，它依赖于各嵌入空间的相对同构。现有旨在控制不同嵌入空间相对同构的尝试未能将语义相关词在模型训练目标中的影响纳入考虑。为此，我们提出 GARI，将分布式训练目标与由图注意力网络引导的多种同构损失相结合。GARI 考虑词语义变体的影响以定义嵌入空间的相对同构。使用阿拉伯语数据集的实验评估表明，GARI 在领域内与领域失配设定下分别将平均 P@1 相对提升多达 40.95% 与 76.80%，优于现有研究。我们在 https://github.com/asif6827/GARI 发布 GARI 代码。
引用
@article{arxiv.2310.13068,
title = {GARI: Graph Attention for Relative Isomorphism of Arabic Word Embeddings},
author = {Muhammad Asif Ali and Maha Alshmrani and Jianbin Qin and Yan Hu and Di Wang},
journal= {arXiv preprint arXiv:2310.13068},
year = {2023}
}