利用条件生成模型理解图像分布的固有鲁棒性
机器学习
2020-03-03 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
从 Gilmer 等人（2018）开始，若干工作基于关于底层输入概率空间的不同假设证明了对抗样本的不可避免性。然而，这些结果是否适用于自然图像分布仍不清楚。在本工作中，我们假设底层数据分布由某条件生成模型刻画，并证明了一类通用分类器的固有鲁棒性界限，这解决了 Fawzi 等人（2018）中的一个开放问题。基于最先进的条件生成模型，我们研究了两个常见图像基准在 扰动下的固有鲁棒性，并展示了我们的理论所隐含的鲁棒性极限与当前最先进鲁棒模型所实现的对抗鲁棒性之间存在巨大差距。我们所有实验的代码可在 https://github.com/xiaozhanguva/Intrinsic-Rob 获取。
引用
@article{arxiv.2003.00378,
title = {Understanding the Intrinsic Robustness of Image Distributions using Conditional Generative Models},
author = {Xiao Zhang and Jinghui Chen and Quanquan Gu and David Evans},
journal= {arXiv preprint arXiv:2003.00378},
year = {2020}
}
备注
14 pages, 2 figures, 5 tables, AISTATS final paper reformatted for readability