用于高效且可泛化超细实体类型标注的校准 Seq2seq 模型
计算与语言
2023-11-03 v1
摘要
超细实体类型标注通过预测文本中实体指称的细粒度语义类型，在信息抽取中起着关键作用。然而，由于输出空间中实体类型数量庞大，该任务带来了显著挑战。当前基于标准多标签分类器或交叉编码器模型的最优方法，存在泛化性能差或推理效率低的问题。本文中，我们提出 CASENT，一种为超细实体类型标注设计的 seq2seq 模型，以校准的置信度分数预测超细类型。我们的模型以实体指称为输入，并采用约束束搜索自回归地生成多个类型。与预测类型相关的原始序列概率随后通过一种新颖的校准方法转换为置信度分数。我们在包含超过 1 万种类型的 UFET 数据集上进行了广泛实验。我们的方法在 F1 分数和校准误差方面优于先前最优方法，同时实现了超过 50 倍的推理加速。此外，我们通过在训练时未见的五个专业领域实体类型标注数据集上的零样本和少样本设置评估，展示了模型的泛化能力。值得注意的是，在零样本设置下，我们的模型优于参数多 10 倍的大语言模型；当在 50 个样本上微调时，它在所有数据集上显著优于 ChatGPT。我们的代码、模型和演示可在 https://github.com/yanlinf/CASENT 获取。
引用
@article{arxiv.2311.00835,
title = {Calibrated Seq2seq Models for Efficient and Generalizable Ultra-fine Entity Typing},
author = {Yanlin Feng and Adithya Pratapa and David R Mortensen},
journal= {arXiv preprint arXiv:2311.00835},
year = {2023}
}