NCCR：评估神经网络与对抗样本鲁棒性的指标
密码学与安全
2025-08-07 v2 人工智能
摘要
神经网络近年来受到广泛关注，随之而来的是相关的安全问题。许多研究表明，神经网络容易受到对抗样本的攻击，这些样本经过人为的微小扰动修改，以至于人类感知无法区分。针对这些问题，研究者提出了不同的攻击与防御方法，但关于评估神经网络及其输入鲁棒性的研究却很少。在这项工作中，我们提出了一种名为神经元覆盖变化率（NCCR）的指标，用于衡量深度学习模型抵抗攻击的能力以及对抗样本的稳定性。NCCR监测当输入被扰动时，特定选定神经元输出的变化，变化程度较小的网络被认为更鲁棒。在图像识别和说话人识别模型上的实验结果表明，我们的指标能够很好地评估神经网络或其输入的鲁棒性。它还可以用于检测输入是否为对抗性的，因为对抗样本的鲁棒性通常较差。
引用
@article{arxiv.2507.21483,
title = {NCCR: to Evaluate the Robustness of Neural Networks and Adversarial Examples},
author = {Shi Pu and Fu Song and Wenjie Wang},
journal= {arXiv preprint arXiv:2507.21483},
year = {2025}
}