单句阅读器：一种解决答案位置偏差的新方法
计算与语言
2023-09-07 v4
摘要
机器阅读理解 (MRC) 模型倾向于利用虚假相关性（在研究界也称为数据集偏差或标注伪影）。因此，这些模型可能在没有充分理解给定上下文和问题的情况下执行 MRC 任务，这是不可取的，因为这可能导致对分布偏移的鲁棒性较低。本文的主要关注点是答案位置偏差，即相当高比例的训练问题的答案仅位于上下文的第一句中。我们提出单句阅读器 (Single-Sentence Reader) 作为一种解决 MRC 中答案位置偏差的新方法。值得注意的是，在使用六种不同模型的实验中，我们在有偏数据集上训练的单句阅读器取得的结果几乎与在正常数据集上训练的模型相当，证明了它们在解决答案位置偏差方面的有效性。我们的研究还讨论了单句阅读器遇到的若干挑战，并提出了一种潜在的解决方案。
引用
@article{arxiv.2308.04566,
title = {Single-Sentence Reader: A Novel Approach for Addressing Answer Position Bias},
author = {Son Quoc Tran and Matt Kretchmar},
journal= {arXiv preprint arXiv:2308.04566},
year = {2023}
}
备注
10 pages, 5 tables, 2 figures