MAT：微调中对抗训练的混合策略博弈
计算与语言
2023-06-29 v1 人工智能
摘要
微调大规模预训练语言模型已被证明对各类自然语言处理（NLP）任务有效。已有研究表明，在微调阶段引入对抗训练可显著增强模型的泛化能力与鲁棒性。然而，从博弈论视角看，此类对抗训练的使用对应于纯策略博弈，其策略空间 inherently 受限，因而仍有改进余地。为突破性能边界，我们提出一种新颖的混合策略对抗训练算法（MAT）。在方法上，我们利用熵镜像下降（Entropy Mirror Descent）推导混合策略博弈的纳什均衡，并通过采样方法构建 MAT。为验证 MAT 的有效性，我们在 BERT 和 RoBERTa 等大规模预训练模型上进行了广泛的基准实验。在 GLUE 与 ANLI 基准上，MAT 在泛化与鲁棒性方面均显著优于当前最优（SOTA）方法。
引用
@article{arxiv.2306.15826,
title = {MAT: Mixed-Strategy Game of Adversarial Training in Fine-tuning},
author = {Zhehua Zhong and Tianyi Chen and Zhen Wang},
journal= {arXiv preprint arXiv:2306.15826},
year = {2023}
}
备注
Will appear on IJCAI 2023