通过伪证据性训练增强多跳问答的鲁棒性
计算与语言
2021-07-08 v1
摘要
本文研究了多跳问答模型的偏差问题，即在没有正确推理的情况下正确作答。增强这些模型鲁棒性的一种方法是监督其不仅给出正确答案，还要有正确的推理链。现有方向是标注推理链来训练模型，这需要昂贵的额外标注。相反，我们提出了一种学习证据性（evidentiality）的新方法，即判断答案预测是否由正确证据支持，而无需此类标注。具体而言，我们比较有证据句和无证据句时答案置信度的反事实变化，以生成“伪证据性”标注。我们在 HotpotQA 的原始集合和挑战集合上验证了所提模型，表明我们的方法在多跳推理中准确且鲁棒。
引用
@article{arxiv.2107.03242,
title = {Robustifying Multi-hop QA through Pseudo-Evidentiality Training},
author = {Kyungjae Lee and Seung-won Hwang and Sang-eun Han and Dohyeon Lee},
journal= {arXiv preprint arXiv:2107.03242},
year = {2021}
}
备注
Accepted to ACL2021 (main conference)