H-FND:面向远程监督关系抽取的层次化假阴性去噪框架
计算与语言
2020-12-15 v2
摘要
尽管远程监督自动生成关系抽取的训练数据,但它也给生成的数据集引入了假阳性(FP)和假阴性(FN)训练样本。虽然这两类错误都会降低最终模型性能,但以往远程监督去噪工作更多关注抑制 FP 噪声,较少解决 FN 问题。本文提出 H-FND,一种用于鲁棒远程监督关系抽取的层次化假阴性去噪框架,作为 FN 去噪方案。H-FND 采用层次化策略,首先在训练过程中判断非关系(NA)样本应保留、丢弃还是修正。对于那些需要修正的学习样本,该策略进一步为其重新分配恰当的关系,使其成为更好的训练输入。我们在 SemEval-2010 和 TACRED 上进行了实验,通过受控的 FN 比例(随机将训练和验证样本的关系转为负类以生成 FN 样本)。在此设定下,H-FND 能正确修正 FN 样本,即使 50% 的样本被转为负类仍保持高 F1 分数。我们进一步在 NYT10 上实验,表明 H-FND 在真实场景中同样适用。
引用
@article{arxiv.2012.03536,
title = {H-FND: Hierarchical False-Negative Denoising for Distant Supervision Relation Extraction},
author = {Jhih-Wei Chen and Tsu-Jui Fu and Chen-Kang Lee and Wei-Yun Ma},
journal= {arXiv preprint arXiv:2012.03536},
year = {2020}
}
备注
The first two authors are equally contributed