基于元学习的远程监督神经关系分类
计算与语言
2020-10-27 v1
摘要
远程监督以低成本为关系分类创建了大量弱标注数据。然而,由此产生的标注实例噪声很大,包含错误标签的数据。已有许多方法被提出以筛选可靠实例子集用于神经模型训练,但它们仍受噪声标注问题或弱标注数据利用不足的困扰。为了更好地筛选更可靠的训练实例,我们引入少量人工标注数据作为参考来引导筛选过程。本文提出一种基于元学习的方法,在参考数据的引导下学习对噪声训练数据重新加权。由于干净参考数据通常极少,我们提出通过从噪声数据中动态蒸馏最可靠的精英实例来扩充它。在多个数据集上的实验表明,参考数据能有效引导训练数据的筛选,且我们提出的扩充方法相比现有最先进方法持续提升了关系分类性能。
引用
@article{arxiv.2010.13544,
title = {Meta-Learning for Neural Relation Classification with Distant Supervision},
author = {Zhenzhen Li and Jian-Yun Nie and Benyou Wang and Pan Du and Yuhan Zhang and Lixin Zou and Dongsheng Li},
journal= {arXiv preprint arXiv:2010.13544},
year = {2020}
}
备注
10 pages, 7 figures; corrected one encoding error in CIKM pdf