对抗鲁棒性博弈中对抗训练的不动点均衡与陷阱
机器学习
2023-03-01 v3 计算机科学与博弈论
摘要
对抗训练是训练对抗鲁棒模型的标准技术。在本文中，我们将对抗训练研究为二人零和博弈中的交替最优响应策略。我们证明，即便在线性分类器与抽象出鲁棒特征与非鲁棒特征的统计模型的简单场景中，该博弈的交替最优响应策略也可能不收敛。另一方面，博弈存在唯一的纯纳什均衡且可证为鲁棒的。我们以实验支撑理论结果，展示对抗训练的不收敛性及纳什均衡的鲁棒性。
引用
@article{arxiv.2210.12606,
title = {Nash Equilibria and Pitfalls of Adversarial Training in Adversarial Robustness Games},
author = {Maria-Florina Balcan and Rattana Pukdee and Pradeep Ravikumar and Hongyang Zhang},
journal= {arXiv preprint arXiv:2210.12606},
year = {2023}
}
备注
AISTATS 2023