为远程监督关系抽取寻找有影响力的实例
机器学习
2022-01-26 v2 人工智能
计算与语言
摘要
远程监督（DS）是扩充数据集以增强关系抽取（RE）模型的强有力途径，但常受高标签噪声困扰。当前基于注意力、强化学习或 GAN 的工作均为黑盒模型，因此既无法对 DS 中的样本选择提供有意义解释，在不同领域上也不具备稳定性。相反，本文提出一种基于影响函数（IF）的、与模型无关的 DS 实例采样新方法，即 REIF。我们的方法依据 IF 识别包中有利/不利实例，随后进行动态实例采样。我们设计了一种快速影响采样算法，将计算复杂度从 降至 ，并分析了其在所选采样函数上的鲁棒性。实验表明，仅在训练中对有利实例进行采样，REIF 便能胜过一系列具有复杂架构的基线。我们还展示了 REIF 可支持可解释的实例选择。
引用
@article{arxiv.2009.09841,
title = {Finding Influential Instances for Distantly Supervised Relation Extraction},
author = {Zifeng Wang and Rui Wen and Xi Chen and Shao-Lun Huang and Ningyu Zhang and Yefeng Zheng},
journal= {arXiv preprint arXiv:2009.09841},
year = {2022}
}