L2R2：利用排序进行溯因推理
信息检索
2021-09-15 v2 计算与语言
摘要
溯因自然语言推理任务（αNLI）旨在评估学习系统的溯因推理能力。在 αNLI 任务中，给定两个观察结果，要求从候选项中选出最合理的假设。现有方法简单地将其表述为一个分类问题，因此在训练过程中使用交叉熵对数损失目标。然而，区分真伪并不能衡量假设的合理性，因为所有假设都有发生的可能，只是概率不同。为了填补这一空白，我们转向排序视角，根据假设的合理性对其进行排序。基于这一新视角，我们在学习排序框架下提出了一种新颖的 L2R2 方法。首先，将训练样本重组为排序形式，其中两个观察结果及其假设分别被视为查询和一组候选文档。然后，获得一个 ESIM 模型或预训练语言模型（例如 BERT 或 RoBERTa）作为评分函数。最后，用于排序任务的损失函数可以是成对的或列表式的进行训练。在 ART 数据集上的实验结果达到了公开排行榜的最新水平。
引用
@article{arxiv.2005.11223,
title = {L2R2: Leveraging Ranking for Abductive Reasoning},
author = {Yunchang Zhu and Liang Pang and Yanyan Lan and Xueqi Cheng},
journal= {arXiv preprint arXiv:2005.11223},
year = {2021}
}
备注
SIGIR 2020