基于细化点集配准的无监督词翻译配对
计算与语言
2020-11-30 v1 人工智能
摘要
跨语言词嵌入对齐在跨语言知识迁移、改进机器翻译及其他多语言应用中起着重要作用。当前无监督方法依赖各语言词嵌入空间的几何结构相似性,利用对抗网络与细化策略学习保结构线性变换。然而,此类技术在实践中往往存在不稳定与收敛问题,需要繁琐的精细调参以精确设定参数。本文提出 BioSpere,一种通过将对抗初始化与细化过程同图像处理中使用的点集配准算法相结合,实现双语词嵌入无监督映射到共享向量空间的新框架。我们表明,我们的框架缓解了现有方法的不足,且对可变对抗学习性能相对不变,在参数选择与训练损失上表现出鲁棒性。在平行词典归纳任务上的实验评估表明,我们的框架在多种语言对上取得了 SOTA 结果。
引用
@article{arxiv.2011.13200,
title = {Unsupervised Word Translation Pairing using Refinement based Point Set Registration},
author = {Silviu Oprea and Sourav Dutta and Haytham Assem},
journal= {arXiv preprint arXiv:2011.13200},
year = {2020}
}