通过乘性权重扰动提高对损坏的鲁棒性
计算机视觉与模式识别
2024-12-25 v3 机器学习
摘要
深度神经网络（DNN）在干净图像上表现出色，但在面对损坏图像时常常力不从心。 将特定损坏纳入数据增强管道可以提高对这些损坏的鲁棒性，但可能会损害在干净图像和其他类型失真情况下的性能。 本文引入一种替代方法，通过乘性权重扰动来提高DNN对广泛范围内损坏的鲁棒性，而不会牺牲干净图像上的准确性。 我们首先演示， 输入扰动可以由权重空间中的乘性扰动来模拟。 基于此，我们提出了通过乘性扰动进行数据增强（DAMP）的方法，该方法在随机乘性权重扰动下进行DNN优化。 我们还检查了最近提出的自适应锐度感知最小化（ASAM）方法，并表明其是在对抗性乘性权重扰动下优化DNN。 在图像分类数据集（CIFAR-10/100、TinyImageNet和ImageNet）和神经网络架构（ResNet50、ViT-S/16、ViT-B/16）上的实验表明， DAMP在不同设置下能够提高模型在面对损坏情况下的泛化性能。 值得注意的是， DAMP能够在ImageNet上从头开始训练ViT-S/16， achieving top-1 error of 23.7%，这与在没有广泛数据增强的情况下使用ResNet50的性能相当。
引用
@article{arxiv.2406.16540,
title = {Improving robustness to corruptions with multiplicative weight perturbations},
author = {Trung Trinh and Markus Heinonen and Luigi Acerbi and Samuel Kaski},
journal= {arXiv preprint arXiv:2406.16540},
year = {2024}
}
备注
Published at NeurIPS 2024 (spotlight). Code is available at https://github.com/trungtrinh44/DAMP