中文

含噪句子对远程监督关系抽取无用吗?

计算与语言 2019-11-25 v1 机器学习

摘要

噪声标注问题一直是远程监督关系抽取的主要障碍之一。现有方法通常认为含噪句子无用且会损害模型性能。因此,它们主要通过减小含噪句子的影响来缓解该问题,例如应用包级选择注意力或从句子包中移除含噪句子。然而,噪声标注问题的根本原因并非有用信息的缺失,而是关系标签的缺失。直观上,如果我们能为含噪句子分配可信标签,它们将转化为有用的训练数据并有益于模型性能。因此,在本文中,我们提出一种用于远程监督关系抽取的新方法,其采用无监督深度聚类为含噪句子生成可靠标签。具体而言,我们的模型包含三个模块:句子编码器、噪声检测器和标签生成器。句子编码器用于获取特征表示。噪声检测器从句子包中检测含噪句子,标签生成器为含噪句子产生高置信度的关系标签。大量实验结果表明,我们的模型在流行基准数据集上优于最先进的基线,并且确实能缓解噪声标注问题。

关键词

引用

@article{arxiv.1911.09788,
  title  = {Are Noisy Sentences Useless for Distant Supervised Relation Extraction?},
  author = {Yuming Shang},
  journal= {arXiv preprint arXiv:1911.09788},
  year   = {2019}
}

备注

9 pages 5 figures