一种自监督特征图增强(FMA)损失与组合增强微调以高效提升CNN鲁棒性
计算机视觉与模式识别
2020-12-03 v1 人工智能
机器学习
摘要
深度神经网络往往对输入中语义无关的变化不具备鲁棒性。本文针对最先进的深度卷积神经网络(CNN)对输入中常见失真(如光度变化或添加模糊与噪声)的鲁棒性问题展开研究。这些输入变化通常在训练阶段以数据增强的形式加以考虑。我们的主要贡献有二:其一,提出一种称为特征图增强(FMA)损失的新正则化损失,可在微调过程中使用,使模型对输入中的多种失真具有鲁棒性;其二,提出一种新的组合增强(CA)微调策略,能以数据高效的方式得到一个同时对多种增强类型均具鲁棒性的单一模型。我们利用CA策略改进了现有称为稳定性训练(ST)的最优方法。在含失真图像的图像分类任务上,使用CA后,相较于知名的数据增强方法分别取得的1.98%和2.12%绝对精度提升,我们在CIFAR-10上借助FMA和ST分别取得平均8.94%和8.86%的绝对精度提升,在ImageNet上借助FMA和ST分别取得8.04%和8.27%的绝对精度提升,同时保持了干净基线性能。
引用
@article{arxiv.2012.01386,
title = {A Self-Supervised Feature Map Augmentation (FMA) Loss and Combined Augmentations Finetuning to Efficiently Improve the Robustness of CNNs},
author = {Nikhil Kapoor and Chun Yuan and Jonas Löhdefink and Roland Zimmermann and Serin Varghese and Fabian Hüger and Nico Schmidt and Peter Schlicht and Tim Fingscheidt},
journal= {arXiv preprint arXiv:2012.01386},
year = {2020}
}
备注
Accepted at ACM CSCS 2020 (8 pages, 4 figures)