SPADE：一种用于黑盒对抗鲁棒性评估的谱方法
机器学习
2021-06-15 v3 人工智能
计算机视觉与模式识别
摘要
本文引入了一种黑盒谱方法，用于评估给定机器学习（ML）模型的对抗鲁棒性。我们的方法名为SPADE，利用为近似对应于输入/输出数据的流形而构建的输入/输出图之间的双射距离映射。通过借助广义Courant-Fischer定理，我们提出了一种SPADE分数用于评估给定模型的对抗鲁棒性，该分数被证明是流形设置下最佳Lipschitz常数的上界。为揭示极易受对抗攻击的最不鲁棒数据样本，我们开发了一种利用主导广义特征向量的谱图嵌入过程。该嵌入步骤可为每个数据样本分配一个鲁棒性分数，该分数可进一步用于更有效的对抗训练。我们的实验表明，所提出的SPADE方法在采用MNIST与CIFAR-10数据集进行对抗训练的神经网络模型上取得了有前景的经验结果。
引用
@article{arxiv.2102.03716,
title = {SPADE: A Spectral Method for Black-Box Adversarial Robustness Evaluation},
author = {Wuxinlin Cheng and Chenhui Deng and Zhiqiang Zhao and Yaohui Cai and Zhiru Zhang and Zhuo Feng},
journal= {arXiv preprint arXiv:2102.03716},
year = {2021}
}
备注
The 2021 International Conference on Machine Learning (ICML)