修正损失而非半径：重新思考锐度感知最小化的对抗扰动
机器学习
2026-05-12 v1
摘要
锐度感知最小化（SAM）通过最小化固定参数空间半径邻域内的最坏情况损失来提升泛化能力。SAM 及其变体主要依赖一阶线性化代理，而平坦极小值本质上是一个二阶（曲率）概念。我们重新审视了这一不匹配问题，并提出了损失等距 SAM（LE-SAM），其将传统 SAM 固定扰动半径的机制反转为固定损失空间预算，有效消除了由梯度范数主导的学习信号，并将优化转向由曲率主导的项。在多样化基准和任务上的广泛实验表明，LE-SAM 具有强大的泛化能力，始终优于 SAM 甚至其变体，实现了 SOTA 性能。
引用
@article{arxiv.2605.10183,
title = {Fix the Loss, Not the Radius: Rethinking the Adversarial Perturbation of Sharpness-Aware Minimization},
author = {Jinping Wang and Qinhan Liu and Zhiwu Xie and Zhiqiang Gao},
journal= {arXiv preprint arXiv:2605.10183},
year = {2026}
}
备注
Accepted by ICML2026