超越 Dropout:基于局部特征遮蔽的鲁棒卷积神经网络
计算机视觉与模式识别
2024-07-19 v1
摘要
在深度学习时代,模型常面临在对抗攻击鲁棒性和强大泛化能力之间同时取得理想效果的挑战。本文引入一种创新的局部特征遮蔽(Local Feature Masking, LFM)策略,以强化卷积神经网络(Convolutional Neural Networks, CNNs)在两方面的性能。在训练阶段,我们策略性地在CNN的浅层融入随机特征遮蔽,有效缓解了过拟合问题,从而提升模型的泛化能力并增强其对抗攻击的韧性。LFM迫使网络通过利用剩余特征来弥补某些语义特征的缺失,培育更灵活的特征学习机制。通过一系列定性和定量评估,证明了LFM在提升CNN泛化能力和抵抗对抗攻击方面均实现了持续且显著的改进——这一现象在当前和以前的方法中并未观察到。LFM无缝集成到既定的CNN框架中,凸显了其在深度学习范式中推动泛化性和对抗鲁棒性发展的潜力。通过包括鲁棒人体识别基准泛化实验和对抗攻击实验等全面实验,我们展示了LFM在应对上述挑战方面的显著提升。此项工作代表了在先进鲁棒神经网络架构方面取得的重要进展。
引用
@article{arxiv.2407.13646,
title = {Beyond Dropout: Robust Convolutional Neural Networks Based on Local Feature Masking},
author = {Yunpeng Gong and Chuangliang Zhang and Yongjie Hou and Lifei Chen and Min Jiang},
journal= {arXiv preprint arXiv:2407.13646},
year = {2024}
}
备注
It has been accepted by IJCNN 2024