平衡、失衡与再平衡：从极小极大博弈视角理解鲁棒过拟合
机器学习
2023-10-31 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
对抗训练（AT）已成为提取鲁棒特征的事实上的最先进算法。然而，研究者最近注意到 AT 存在严重的鲁棒过拟合问题，尤其是在学习率（LR）衰减之后。在本文中，我们将对抗训练视为模型训练者与攻击者之间的动态极小极大博弈来解释这一现象。具体而言，我们分析了 LR 衰减如何通过赋予训练者更强的记忆能力打破极小极大博弈的平衡，并表明这种失衡因记忆非鲁棒特征而导致鲁棒过拟合。我们通过大量实验验证了这一理解，并从两个博弈参与者的动态出发提供了鲁棒过拟合的整体视图。该理解进一步启发我们通过再平衡二者——要么正则化训练者容量，要么增强攻击强度——来缓解鲁棒过拟合。实验表明，所提的再平衡对抗训练（ReBAT）能获得良好鲁棒性，且即使在极长训练后也不受鲁棒过拟合影响。代码见 https://github.com/PKU-ML/ReBAT。
引用
@article{arxiv.2310.19360,
title = {Balance, Imbalance, and Rebalance: Understanding Robust Overfitting from a Minimax Game Perspective},
author = {Yifei Wang and Liangchen Li and Jiansheng Yang and Zhouchen Lin and Yisen Wang},
journal= {arXiv preprint arXiv:2310.19360},
year = {2023}
}
备注
Accepted by NeurIPS 2023