通过并发建模多种偏差提升问答泛化能力
计算与语言
2020-10-08 v1
摘要
现有的自然语言处理（NLP）数据集包含各种偏差，模型可以轻易利用这些偏差在相应的评测集上取得高性能。然而，聚焦于特定数据集的偏差会限制模型从更通用的数据模式中学习任务上更具泛化性的知识。本文研究了去偏方法对提升泛化能力的影响，并提出了一种通用框架，通过对训练数据中多种偏差进行并发建模，来提升模型在域内和域外数据集上的表现。我们的框架根据每个样本所包含的偏差及其在训练数据中的强度为样本赋权，并在训练目标中使用这些权重，使模型较少依赖具有高偏差权重的样本。我们在抽取式问答上对所提框架进行了充分评估，训练数据来自多个领域，包含不同强度的多种偏差。我们在两种不同设定下进行评估：模型在单一领域上训练，以及同时在多个领域上训练，并表明在两种设定下相比最先进的去偏方法均有效。
引用
@article{arxiv.2010.03338,
title = {Improving QA Generalization by Concurrent Modeling of Multiple Biases},
author = {Mingzhu Wu and Nafise Sadat Moosavi and Andreas Rücklé and Iryna Gurevych},
journal= {arXiv preprint arXiv:2010.03338},
year = {2020}
}