REM-Net:用于常识证据精炼的递归擦除记忆网络
计算与语言
2021-03-26 v3 人工智能
摘要
在回答问题时,人们除了特定的上下文外,常常利用其丰富的世界知识。尽管近期工作从常识知识库中检索支持性事实/证据以为每个问题提供额外信息,但在证据质量方面仍有充分空间加以改进。这一点至关重要,因为证据质量是回答常识问题的关键,甚至决定了问答系统性能的上限。在本文中,我们提出一种递归擦除记忆网络(REM-Net)以应对证据的质量提升问题。为此,REM-Net 配备了一个模块,通过递归擦除无法解释问题回答的低质量证据来精炼证据。此外,REM-Net 不是从现有知识库中检索证据,而是利用预训练生成模型生成针对该问题定制的候选证据。我们在两个常识问答数据集 WIQA 和 CosmosQA 上进行了实验。结果展示了 REM-Net 的性能,并表明精炼后的证据具有可解释性。
引用
@article{arxiv.2012.13185,
title = {REM-Net: Recursive Erasure Memory Network for Commonsense Evidence Refinement},
author = {Yinya Huang and Meng Fang and Xunlin Zhan and Qingxing Cao and Xiaodan Liang and Liang Lin},
journal= {arXiv preprint arXiv:2012.13185},
year = {2021}
}
备注
Accepted by AAAI 2021