标签图网络与 Top-k 预测集用于关系抽取的标签复审
计算与语言
2023-01-02 v1
摘要
关系抽取的典型方式是在特定任务数据集上微调大型预训练语言模型,然后选取输出分布中概率最高的标签作为最终预测。然而,给定样本的 Top-k 预测集的用途常被忽视。本文首先揭示,给定样本的 Top-k 预测集包含用于预测正确标签的有用信息。为有效利用 Top-k 预测集,我们提出带 Top-k 预测集的标签图网络,称为 KLG。具体而言,对给定样本,我们构建标签图以复审 Top-k 预测集中的候选标签并学习它们之间的关联。我们还设计了动态 选择机制以学习更具判别力的关系表示。实验表明 KLG 在三个关系抽取数据集上取得最佳性能。此外,我们观察到 KLG 在处理长尾类别时更为有效。
引用
@article{arxiv.2212.14270,
title = {Reviewing Labels: Label Graph Network with Top-k Prediction Set for Relation Extraction},
author = {Bo Li and Wei Ye and Jinglei Zhang and Shikun Zhang},
journal= {arXiv preprint arXiv:2212.14270},
year = {2023}
}
备注
AAAI2023, Regular Paper