重新审视多跳问答中的标签平滑
计算与语言
2023-12-14 v3
摘要
多跳问答（MHQA）是问答领域的一个重要方向，需要多个推理组件，包括文档检索、支持句预测和答案片段抽取。本文分析了限制多跳推理性能的主要因素，并将标签平滑引入到多跳问答任务中，旨在增强多跳问答系统的泛化能力，并缓解对训练集中答案片段和推理路径的过拟合。我们提出了一种新颖的标签平滑技术——F1平滑，它将不确定性融入学习过程，并专门为机器阅读理解（MRC）任务量身定制。受课程学习原理的启发，我们引入了线性衰减标签平滑算法（LDLA），该算法在整个训练过程中逐步降低不确定性。在HotpotQA数据集上的实验证明了我们的方法在提升多跳推理性能和泛化能力方面的有效性，在排行榜上取得了新的最优结果。
引用
@article{arxiv.2212.09512,
title = {Rethinking Label Smoothing on Multi-hop Question Answering},
author = {Zhangyue Yin and Yuxin Wang and Xiannian Hu and Yiguang Wu and Hang Yan and Xinyu Zhang and Zhao Cao and Xuanjing Huang and Xipeng Qiu},
journal= {arXiv preprint arXiv:2212.09512},
year = {2023}
}
备注
13 pages, 8 figures, accepted by CCL2023