利用单语和跨语言约束对分布式词向量空间进行语义特化
计算与语言
2017-06-02 v1 人工智能
机器学习
摘要
我们提出了 Attract-Repel 算法，通过注入从词汇资源中提取的约束来提升词向量的语义质量。Attract-Repel 便于使用来自单语和跨语言资源的约束，产生语义特化的跨语言向量空间。我们的评估表明，该方法能利用现有的跨语言词典为多种不同语言构建高质量向量空间，促进从高资源语言到低资源语言的语义迁移。我们在六种语言的语义相似度数据集上取得了最先进的结果，证明了方法的有效性。我们进一步展示，经 Attract-Repel 特化的向量在多语言对话状态追踪（DST）下游任务中提升了性能。最后，我们表明该算法生成的跨语言向量空间有助于训练多语言 DST 模型，从而带来进一步的性能改进。
引用
@article{arxiv.1706.00374,
title = {Semantic Specialisation of Distributional Word Vector Spaces using Monolingual and Cross-Lingual Constraints},
author = {Nikola Mrkšić and Ivan Vulić and Diarmuid Ó Séaghdha and Ira Leviant and Roi Reichart and Milica Gašić and Anna Korhonen and Steve Young},
journal= {arXiv preprint arXiv:1706.00374},
year = {2017}
}
备注
Accepted for publication at TACL (to be presented at EMNLP 2017)