可微分开放式常识推理
计算与语言
2021-06-08 v2 人工智能
机器学习
摘要
当前常识推理研究聚焦于开发利用常识知识回答选择题的模型。然而,设计为回答选择题的系统在那些不提供少量候选答案以供选择的应用中或许并无用处。为使常识推理研究更贴近现实,我们提出研究开放式常识推理(OpenCSR)——即无任何预定义选项下回答常识问题——仅以自然语言写成的常识事实语料库作为资源。OpenCSR 因巨大的决策空间以及许多问题需要隐式多跳推理而具挑战性。作为 OpenCSR 的一种途径,我们提出 DrFact,一种在知识事实上进行多跳推理的高效可微分(Differentiable)模型。为评估 OpenCSR 方法,我们改编了几个流行的常识推理基准,并通过众包为每个测试问题收集多个新答案。实验表明 DrFact 大幅优于强基线方法。
引用
@article{arxiv.2010.14439,
title = {Differentiable Open-Ended Commonsense Reasoning},
author = {Bill Yuchen Lin and Haitian Sun and Bhuwan Dhingra and Manzil Zaheer and Xiang Ren and William W. Cohen},
journal= {arXiv preprint arXiv:2010.14439},
year = {2021}
}
备注
Accepted to NAACL 2021. Project website: https://open-csr.github.io