基于不确定性传递的序列标注不确定性估计
计算与语言
2024-06-06 v2
摘要
序列标注是一项为序列中每个词元预测标签的任务,例如命名实体识别(NER)。NER 任务旨在给定文本后提取实体并预测其标签,在信息抽取中十分重要。尽管以往工作在提升 NER 性能方面取得了很大进展,但 NER 上的不确定性估计(UE-NER)仍未被充分探索却至关重要。本工作聚焦于 UE-NER,旨在为 NER 预测估计不确定性分数。以往的不确定性估计模型常忽略 NER 的两个独特特征:实体间的关联(即一个实体嵌入基于其他实体学习得到)以及实体抽取子任务中的错误跨度情形。因此,我们提出序列标注后验网络(SLPN),在考虑来自其他词元传递的不确定性的情况下,为抽取出的实体估计不确定性分数。此外,我们定义了一种评估策略以应对错误跨度情形的特殊性。我们的 SLPN 在三个数据集上取得了显著提升,例如在 MIT-Restaurant 数据集上 AUPR 提升了 5.54 个点。我们的代码可在 \url{https://github.com/he159ok/UncSeqLabeling_SLPN} 获取。
引用
@article{arxiv.2311.08726,
title = {Uncertainty Estimation on Sequential Labeling via Uncertainty Transmission},
author = {Jianfeng He and Linlin Yu and Shuo Lei and Chang-Tien Lu and Feng Chen},
journal= {arXiv preprint arXiv:2311.08726},
year = {2024}
}
备注
13 pages, 2 figures