真实世界对抗样本鲁棒性评估
计算机视觉与模式识别
2020-03-17 v2
摘要
我们探索了对真实世界中对抗样本进行严格、系统且可控的实验评估，并提出了一种用于评估真实世界对抗物体的测试规范。我们表明，对于微小的场景/环境扰动，对抗性能存在巨大差异。当前对抗性报告在很大程度上是对动态场景集合的频率计数。我们的工作强调了需要更完整的报告，或一种融合场景变化与被测模型及环境基线性能的评分。我们提出了一种评分，尝试在针对多个生成对抗样本的直接示例应用中解决上述问题。我们的贡献如下：1. 对抗评估测试平台，2. 对抗样本评分，3. 在测试平台数据上的一组额外评估。
引用
@article{arxiv.1911.10435,
title = {Robust Assessment of Real-World Adversarial Examples},
author = {Brett Jefferson and Carlos Ortiz Marrero},
journal= {arXiv preprint arXiv:1911.10435},
year = {2020}
}
备注
updated title and abstract; minor edits; some reformatting; added figure 3