中文

通过阅读实体描述实现零样本实体链接

计算与语言 2019-06-19 v1 机器学习

摘要

我们提出了零样本实体链接任务,其中提及(mention)必须链接到未见实体,且无领域内标注数据。其目标是实现对高度专业化领域的鲁棒迁移,因此不假设存在任何元数据或别名表。在此设定下,实体仅由文本描述标识,模型必须严格依赖语言理解来消解新实体。首先,我们展示了在大规模无标注数据上预训练的强阅读理解模型可用于泛化至未见实体。其次,我们提出了一种简单有效的自适应预训练策略,称为领域自适应预训练(DAP),以解决在新领域链接未见实体时的领域偏移问题。我们在为该任务构建的新数据集上开展实验,表明DAP优于包括BERT在内的强预训练基线。数据和代码见 https://github.com/lajanugen/zeshel。

关键词

引用

@article{arxiv.1906.07348,
  title  = {Zero-Shot Entity Linking by Reading Entity Descriptions},
  author = {Lajanugen Logeswaran and Ming-Wei Chang and Kenton Lee and Kristina Toutanova and Jacob Devlin and Honglak Lee},
  journal= {arXiv preprint arXiv:1906.07348},
  year   = {2019}
}

备注

ACL 2019