通过梯度降权理解SAM对噪声标签的鲁棒性
计算机视觉与模式识别
2025-03-25 v2 计算与语言
摘要
锐度感知最小化（SAM）被引入以通过寻找平坦最小值来改善泛化，但它也表现出对噪声标签的鲁棒性，这一现象目前仅被部分理解。先前的工作主要将这种效应归因于SAM倾向于延长干净样本的学习。在这项工作中，我们通过在元素级别分析SAM提供了一个补充解释。我们表明，当噪声梯度主导某个参数方向时，它们的影响会被干净梯度的更强放大所减弱。这减缓了噪声标签的记忆，同时保持干净学习，从而更完整地解释了SAM的鲁棒性。基于这一见解，我们提出了SANER（锐度感知噪声显式重加权），一个SAM的简单变体，明确放大了这种降权效应。在带噪声标签的基准图像分类任务上的实验表明，SANER显著减轻了噪声标签记忆，并在SAM和SGD上均改善了泛化。此外，由于SANER基于SAM的机制设计，它也可以无缝集成到类似SAM的变体中，进一步提升其鲁棒性。
引用
@article{arxiv.2411.17188,
title = {Interleaved Scene Graphs for Interleaved Text-and-Image Generation Assessment},
author = {Dongping Chen and Ruoxi Chen and Shu Pu and Zhaoyi Liu and Yanru Wu and Caixi Chen and Benlin Liu and Yue Huang and Yao Wan and Pan Zhou and Ranjay Krishna},
journal= {arXiv preprint arXiv:2411.17188},
year = {2025}
}
备注
Accepted by ICLR 2025 as Spotlight. Project homepage: https://interleave-eval.github.io/