学会学习以基于正确理由得出正确结论
计算与语言
2021-04-26 v1
摘要
提升模型在留出数据上的泛化能力是常识推理的核心目标之一。近期工作表明，在带有表面线索的数据集上训练的模型往往在带有表面线索的简单测试集上表现良好，但在无表面线索的困难测试集上表现糟糕。先前的方法诉诸人工方法来鼓励模型不过拟合表面线索。尽管其中一些方法提升了困难样本上的性能，但也导致简单样本上的性能下降。此处，我们提出显式地学习一个在带有表面线索的简单测试集与无表面线索的困难测试集上都表现良好的模型。利用元学习目标，我们学习这样一个在简单与困难测试集上均提升性能的模型。通过在 Choice of Plausible Alternatives（COPA）与 Commonsense Explanation 上评估我们的模型，我们表明所提方法在简单与困难测试集上均带来性能提升，相较基线最高观察到 16.5 个百分点的改进。
引用
@article{arxiv.2104.11514,
title = {Learning to Learn to be Right for the Right Reasons},
author = {Pride Kavumba and Benjamin Heinzerling and Ana Brassard and Kentaro Inui},
journal= {arXiv preprint arXiv:2104.11514},
year = {2021}
}