最大均值差异检验可感知对抗攻击
机器学习
2021-07-13 v3 机器学习
摘要
最大均值差异（MMD）检验原则上可检测两个数据集之间的任意分布差异。然而，已有研究表明 MMD 检验无法感知对抗攻击——MMD 检验未能检测出自然数据与对抗数据之间的差异。鉴于此现象，我们提出疑问：自然数据与对抗数据是否真的来自不同分布？答案是肯定的——先前为此目的使用 MMD 检验忽略了三个关键因素，相应地，我们提出三个组件。首先，高斯核表示能力有限，我们将其替换为有效的深度核。其次，MMD 检验的检验功效被忽视，我们依据渐近统计最大化该功效。最后，对抗数据可能非独立，我们通过 wild bootstrap 克服此问题。通过顾及这三个因素，我们验证了 MMD 检验可感知对抗攻击，这为基于双样本检验的对抗数据检测点亮了一条新路径。
引用
@article{arxiv.2010.11415,
title = {Maximum Mean Discrepancy Test is Aware of Adversarial Attacks},
author = {Ruize Gao and Feng Liu and Jingfeng Zhang and Bo Han and Tongliang Liu and Gang Niu and Masashi Sugiyama},
journal= {arXiv preprint arXiv:2010.11415},
year = {2021}
}