基于自然语言推理间接监督的超细实体类型标注
计算与语言
2022-02-15 v1 人工智能
摘要
超细实体类型标注（UFET）任务旨在预测描述句中提及实体合适类型的多样且自由形式的词或短语。该任务的一个关键挑战在于类型数量庞大且每类标注数据稀缺。现有系统将该任务表述为多分类问题，并直接或以远程监督方式训练分类器。这导致两个问题：（i）分类器未捕捉类型语义，因为类型常被转换为索引；（ii）以此方式开发的系统局限于在预定义类型集内预测，且常难以泛化到训练中罕见或未见的类型。本工作提出 LITE，一种将实体类型标注表述为自然语言推理（NLI）问题的新方法，利用（i）来自 NLI 的间接监督来推断以文本假设有意义表示的类型信息并缓解数据稀缺问题，以及（ii）学习排序目标以避免预定义类型集。实验表明，在有限训练数据下，LITE 在 UFET 任务上取得了最先进（SOTA）性能。此外，LITE 展现出强泛化能力：不仅在其他细粒度实体类型标注基准上取得最佳结果，更重要的是，预训练的 LITE 系统在未含未见类型的新数据上表现良好。
引用
@article{arxiv.2202.06167,
title = {Ultra-fine Entity Typing with Indirect Supervision from Natural Language Inference},
author = {Bangzheng Li and Wenpeng Yin and Muhao Chen},
journal= {arXiv preprint arXiv:2202.06167},
year = {2022}
}
备注
Accepted to TACL. The arXiv version is a pre-MIT Press publication version