NPAT 零退化的空旅空间投影对抗训练
机器学习
2024-09-19 v1 人工智能
密码学与安全
摘要
为缓解神经网络对对抗攻击的脆弱性，对抗训练已成为一种流行且有效的防御策略。从本质上讲，这种防御措施会导致模型在处理正常样本时的准确率下降。为解决这一权衡问题，我们首次将空旅空间投影引入对抗训练中，提出两种创新的基于空旅空间投影的对抗训练（NPAT）算法，分别用于样本生成和梯度优化，称为空旅空间投影数据增强（NPDA）和空旅空间投影梯度下降（NPGD），以搜索整体最优解，提升鲁棒性，几乎零退化地保持泛化性能。对抗样本和扰动被限制在决策边界的空旅空间内，通过闭形式空旅空间投影器有效缓解了来自不可靠特征的攻击威胁。随后，我们在 CIFAR10 和 SVHN 数据集上进行实验，揭示了该方法能无缝地与对抗训练方法集成，同时保持泛化能力接近高精度模型。
引用
@article{arxiv.2409.11754,
title = {NPAT Null-Space Projected Adversarial Training Towards Zero Deterioration},
author = {Hanyi Hu and Qiao Han and Kui Chen and Yao Yang},
journal= {arXiv preprint arXiv:2409.11754},
year = {2024}
}