无需额外数据实现准确且鲁棒的神经网络的探索
计算机视觉与模式识别
2022-08-30 v2
摘要
深度神经网络在各种应用中取得了卓越的性能，但对对抗扰动极为脆弱。能够增强模型鲁棒性最具代表性和前景的方法（如对抗训练及其变体）会大幅降低模型在良性样本上的准确率，限制了实际效用。尽管引入额外训练数据可在一定程度上缓解这一权衡，但在有限训练数据下同时实现鲁棒性与准确率仍悬而未决。本文通过提出一种对抗特征堆叠（AFS）模型，证明了克服该权衡的可行性，该模型将多个具有不同鲁棒性与准确率水平的独立特征提取器进行组合。我们进一步进行了理论分析，并给出了基础特征提取器选取的一般原则。我们在 CIFAR-10 和 CIFAR-100 数据集上采用强自适应攻击方法评估 AFS 模型，在权衡方面显著推进了当前最优水平。与最先进的对抗训练方法相比，AFS 模型在 CIFAR-10 上良性准确率提升约 6%，在 CIFAR-100 上提升约 10%，且鲁棒性相当甚至更强。
引用
@article{arxiv.2103.13124,
title = {Towards Both Accurate and Robust Neural Networks without Extra Data},
author = {Faqiang Liu and Rong Zhao},
journal= {arXiv preprint arXiv:2103.13124},
year = {2022}
}