基于风险分析的适应性深度学习实体解析
机器学习
2022-04-12 v4 人工智能
数据库
摘要
实体解析(ER)的最先进性能已由深度学习取得。然而,深度模型通常在大量精确标注的训练数据上训练,且难以针对目标工作负载进行调优。遗憾的是,在实际场景中,可能缺乏充足的标注训练数据,更糟的是,即便来自同一领域,其分布通常也或多或少不同于目标工作负载。为缓解上述局限,本文提出一种新颖的基于风险的方法,通过其特定特征将深度模型调优至目标工作负载。基于近期ER风险分析的进展,所提方法首先在标注训练数据上训练深度模型,然后通过最小化其在无标注目标数据上的估计误预测风险来进行微调。我们的理论分析表明,基于风险的适应性训练能以相当高的概率纠正误预测实例的标注状态。我们还通过对比研究在真实基准数据上实证验证了所提方法的有效性。大量实验表明,它能显著提升深度模型的性能。此外,在分布失配场景下,它同样能以可观的幅度优于最先进的迁移学习替代方案。以ER为测试用例,我们证明了基于风险的适应性训练是一种有前景、潜在适用于各类具挑战性分类任务的方法。
引用
@article{arxiv.2012.03513,
title = {Adaptive Deep Learning for Entity Resolution by Risk Analysis},
author = {Zhaoqiang Chen and Qun Chen and Youcef Nafa and Tianyi Duan and Wei Pan and Lijun Zhang and Zhanhuai Li},
journal= {arXiv preprint arXiv:2012.03513},
year = {2022}
}
备注
31 pages, 5 figures, 4 tables