NoisyMix：提升模型对常见 corruptions 的鲁棒性
机器学习
2022-05-24 v2 机器学习
摘要
对于许多实际应用，获得稳定且鲁棒的统计性能比单纯达到最先进的预测测试精度更为重要，因此神经网络的鲁棒性是一个日益重要的课题。相关地，数据增强方案已被证明能改善关于输入扰动和域偏移的鲁棒性。受此启发，我们提出 NoisyMix，一种新颖的训练方案，它促进稳定性并利用输入和特征空间中的噪声增强来改善模型鲁棒性和域内精度。NoisyMix 产生的模型始终更具鲁棒性，并提供良好校准的类别隶属概率估计。我们在包括 ImageNet-C、ImageNet-R 和 ImageNet-P 在内的一系列基准数据集上展示了 NoisyMix 的益处。此外，我们提供理论以理解 NoisyMix 的隐式正则化与鲁棒性。
引用
@article{arxiv.2202.01263,
title = {NoisyMix: Boosting Model Robustness to Common Corruptions},
author = {N. Benjamin Erichson and Soon Hoe Lim and Winnie Xu and Francisco Utrera and Ziang Cao and Michael W. Mahoney},
journal= {arXiv preprint arXiv:2202.01263},
year = {2022}
}