基于风险采样的实体解析主动深度学习
机器学习
2020-12-25 v1
摘要
尽管深度学习方法已在实体解析(ER)上取得最优性能,但其有效性依赖于大量准确标注的训练数据。为减轻数据标注负担,主动学习(AL)作为一种可行方案出现,其聚焦于被认为对模型训练有用的数据。基于近期 ER 风险分析的进展——其能提供比简单分类器输出更精细的标签误预测风险估计——我们提出一种新颖的 ER 风险采样 AL 方法。风险采样利用误预测风险估计进行主动实例选择。基于 AL 的核心集刻画,我们从理论上推导了一个旨在以非均匀 Lipschitz 连续性最小化核心集损失的优化模型。由于所定义的加权 K-medoids 问题是 NP-hard 的,我们随后提出一种高效启发式算法。最后,我们通过比较研究在真实数据上实证验证了所提方法的效力。我们广泛的实验表明,它以显著优势超越现有替代方案。以 ER 为测试用例,我们证明风险采样是一种有前景的方法,潜在适用于其他具有挑战性的分类任务。
引用
@article{arxiv.2012.12960,
title = {Active Deep Learning on Entity Resolution by Risk Sampling},
author = {Youcef Nafa and Qun Chen and Zhaoqiang Chen and Xingyu Lu and Haiyang He and Tianyi Duan and Zhanhuai Li},
journal= {arXiv preprint arXiv:2012.12960},
year = {2020}
}
备注
13 pages, 6 figures