中文

RetroGAN:一种用于改进未知知识与罕见词表示的循环式后置专门化系统

计算与语言 2021-08-31 v1 人工智能

摘要

Retrofitting(后置适配)是一种将词向量在其空间中拉近或推远以反映其在知识库(KB)中关系的技术。然而,retrofitting 仅对出现在该 KB 中的概念有效。RetroGAN 使用一对生成对抗网络(GANs)来学习概念与其 retrofitted 对应项之间的一对一映射。它应用该映射(后置专门化,post-specialization)来处理未出现在原始 KB 中的概念,方式类似于某些自然语言系统处理词表外条目。我们在三个词相似度基准及一个下游句子简化任务上测试本系统,并达到了最优性能(CARD-660)。总体而言,我们的结果证明了本系统对未知知识与罕见词泛化的有效性。

关键词

引用

@article{arxiv.2108.12941,
  title  = {RetroGAN: A Cyclic Post-Specialization System for Improving Out-of-Knowledge and Rare Word Representations},
  author = {Pedro Colon-Hernandez and Yida Xin and Henry Lieberman and Catherine Havasi and Cynthia Breazeal and Peter Chin},
  journal= {arXiv preprint arXiv:2108.12941},
  year   = {2021}
}