面向阅读理解中领域与跨语言泛化的对抗增强策略搜索

阅读理解模型常常过拟合于训练数据集的细微差异,并在对抗评估中失效。使用对抗增强数据集进行训练可提升对这些对抗攻击的鲁棒性,但会损害模型的泛化能力。在这项工作中,我们提出了若干有效的对抗样本生成方法与自动化数据增强策略搜索方法,旨在使阅读理解模型对对抗评估更具鲁棒性,同时改善其在源领域以及新领域和新语言上的泛化能力。我们首先提出了三种生成问答对抗样本的新方法,这些方法在上下文中引入多个混淆点,表现出对干扰项插入位置的依赖性,并揭示了将对抗策略与句法和语义改写方法混合使用的复合效应。接下来,我们发现用均匀采样的对抗样本增强训练数据集可提升对对抗攻击的鲁棒性,但会导致在原始未增强数据集上的性能下降。我们通过强化学习以及更高效的贝叶斯策略搜索方法来解决这一问题,以自动学习在大型搜索空间中每个对抗样本变换概率的最佳增强策略组合。利用这些学习到的策略,我们展示了对抗训练可以显著改善领域内、领域外以及跨语言(德语、俄语、土耳其语)的泛化能力。