作为 Stackelberg 博弈的对抗正则化：一种展开优化方法
机器学习
2022-04-21 v3 计算与语言
摘要
对抗正则化已被证明可改善深度学习模型在多种自然语言处理任务中的泛化性能。现有工作通常将该 method 表述为零和博弈，并通过交替梯度下降/上升算法求解。这种表述将对抗方与防御方平等对待，这是不可取的，因为仅防御方对泛化性能有贡献。为解决此问题，我们提出 Stackelberg 对抗正则化（SALT），将对抗正则化表述为 Stackelberg 博弈。该表述引出了领导者与跟随者之间的竞争，其中跟随者生成扰动，领导者在扰动下训练模型。与传统方法不同，在 SALT 中领导者处于优势地位。当领导者行动时，它识别跟随者的策略并考虑预期的跟随者结果。这种领导者的优势使我们能够改善模型对未扰动数据的拟合。领导者的策略信息由 Stackelberg 梯度捕获，该梯度通过展开算法获得。我们在一系列机器翻译和自然语言理解任务上的实验结果表明，SALT 在所有任务上均优于现有的对抗正则化基线。我们的代码可在 https://github.com/SimiaoZuo/Stackelberg-Adv 获取。
引用
@article{arxiv.2104.04886,
title = {Adversarial Regularization as Stackelberg Game: An Unrolled Optimization Approach},
author = {Simiao Zuo and Chen Liang and Haoming Jiang and Xiaodong Liu and Pengcheng He and Jianfeng Gao and Weizhu Chen and Tuo Zhao},
journal= {arXiv preprint arXiv:2104.04886},
year = {2022}
}
备注
EMNLP 2021