深度神经网络中对抗鲁棒性与决策区域的关系
机器学习
2025-11-17 v3
摘要
一般而言，深度神经网络（DNNs）通过训练阶段之外未见数据上测得的泛化性能来评估。随着DNNs的发展，泛化性能已逼近最优水平，仅基于该指标难以评估DNNs。针对对抗攻击的鲁棒性已被用作评估DNNs的附加指标，通过衡量其脆弱性来实现。然而，从DNNs几何角度分析对抗鲁棒性的研究甚少。本工作中，我们开展实证研究以分析影响对抗攻击下模型鲁棒性的DNNs内部属性。特别地，我们提出新颖的密集区域集（Populated Region Set, PRS）概念，即训练样本更频繁聚集之处，以在实际设定中表示DNNs的内部属性。基于所提概念的系统实验，我们提供了经验证据以验证较低的PRS比率与DNNs的对抗鲁棒性有强关联。我们还设计了利用PRS特性的PRS正则化器，无需对抗训练即可提升对抗鲁棒性。
引用
@article{arxiv.2207.03400,
title = {On the Relationship Between Adversarial Robustness and Decision Region in Deep Neural Networks},
author = {Seongjin Park and Haedong Jeong and Tair Djanibekov and Giyoung Jeon and Jinseok Seol and Jaesik Choi},
journal= {arXiv preprint arXiv:2207.03400},
year = {2025}
}
备注
Accepted to IEEE ICDM 2025