Bootleg：以自监督命名实体消歧追踪长尾
计算与语言
2020-10-26 v3 人工智能
机器学习
摘要
命名实体消歧（NED）——将文本提及映射到知识库中实体的任务——所面临的一个挑战是如何对训练数据中罕见出现的实体（称为长尾实体）进行消歧。人类利用基于实体事实、关系和类型知识的细微推理模式来消歧不熟悉的实体。受这些模式启发，我们提出Bootleg，一个显式基于消歧推理模式的自监督NED系统。我们定义了用于消歧的核心推理模式，创建了鼓励自监督模型学习这些模式的学习过程，并展示了如何利用弱监督增强训练数据中的信号。在一个简单的Transformer架构中编码推理模式，Bootleg在三个NED基准上达到或超越最先进水平。我们进一步表明，Bootleg学到的表示成功迁移到需要基于实体知识的其他非消歧任务：我们在流行的TACRED关系抽取任务上以1.0个F1点刷新了最先进水平，并展示了在一家大型科技公司高度优化的生产搜索与助手任务中高达8%的性能提升。
引用
@article{arxiv.2010.10363,
title = {Bootleg: Chasing the Tail with Self-Supervised Named Entity Disambiguation},
author = {Laurel Orr and Megan Leszczynski and Simran Arora and Sen Wu and Neel Guha and Xiao Ling and Christopher Re},
journal= {arXiv preprint arXiv:2010.10363},
year = {2020}
}