从句子包到文档:基于机器阅读理解远程监督关系抽取
计算与语言
2020-12-10 v2
摘要
远程监督(DS)是一种有前景的关系抽取方法,但常受噪声标签问题困扰。传统DS方法通常将一个实体对表示为句子包,并利用多实例学习技术对标签去噪。然而,基于句子包的范式未能利用句间层面和实体层面的证据进行关系抽取,且其去噪算法往往专门化且复杂。本文提出一种新的DS范式——基于文档的远程监督,将关系抽取建模为基于文档的机器阅读理解(MRC)任务。通过将所有关于某一实体的句子重组为文档,并用关系特定问题查询该文档来抽取关系,基于文档的DS范式能够同时编码并利用所有句子层面、句间层面和实体层面的证据。此外,我们设计了一种新的损失函数——DSLoss(distant supervision loss,远程监督损失),它仅使用文档, 问题, 答案三元组即可有效训练MRC模型,从而从根本上解决噪声标签问题。实验表明,我们的方法取得了新的SOTA(state-of-the-art,最优)DS性能。
引用
@article{arxiv.2012.04334,
title = {From Bag of Sentences to Document: Distantly Supervised Relation Extraction via Machine Reading Comprehension},
author = {Lingyong Yan and Xianpei Han and Le Sun and Fangchao Liu and Ning Bian},
journal= {arXiv preprint arXiv:2012.04334},
year = {2020}
}
备注
12 pages, 3 figures