基于期望扰动分数探测多重扰动以检测对抗数据
机器学习
2023-05-26 v1 密码学与安全
摘要
对抗检测旨在基于自然分布与对抗分布之间的差异来判断给定样本是否为对抗样本。遗憾的是，估计或比较两个数据分布极其困难，尤其在高维空间中。近期，关于样本的对数概率密度梯度（即分数（score））被用作一种替代统计量进行计算。然而，我们发现由于仅依靠单个样本信息不足，分数在识别对抗样本时较为敏感。本文提出一种称为期望扰动分数（EPS）的新统计量，其本质上是样本经多种扰动后的期望分数。具体而言，为获取单个样本的充分信息，我们通过添加多种噪声对其进行扰动以捕获其多视角观测。我们从理论上证明，在温和条件下 EPS 是计算两样本间差异的合适统计量。实践中，我们可以使用预训练扩散模型估计每个样本的 EPS。最后，我们提出一种基于 EPS 的对抗检测（EPS-AD）方法，其中我们发展了基于 EPS 的最大均值差异（MMD）作为度量测试样本与自然样本间差异的指标。我们还证明自然样本与对抗样本间基于 EPS 的 MMD 大于自然样本之间的该值。大量实验显示了我们 EPS-AD 的优越对抗检测性能。
引用
@article{arxiv.2305.16035,
title = {Detecting Adversarial Data by Probing Multiple Perturbations Using Expected Perturbation Score},
author = {Shuhai Zhang and Feng Liu and Jiahao Yang and Yifan Yang and Changsheng Li and Bo Han and Mingkui Tan},
journal= {arXiv preprint arXiv:2305.16035},
year = {2023}
}
备注
Accepted at ICML 2023