CleverHans 新特性:基于攻击捆绑的更优对抗鲁棒性评估
密码学与安全
2018-11-12 v1 人工智能
机器学习
摘要
本技术报告描述了 CleverHans 库的一个称为“攻击捆绑(attack bundling)”的新特性。许多关于对抗样本的论文给出了对应于不同攻击算法的错误率列表。一种常见做法是取该列表中的最大值,并针对该错误率比较各种防御方法。我们认为更好的做法是使用攻击捆绑:应在单个样本的层面上对多个样本取最大值,然后在此最大化操作之后通过平均计算错误率。报告捆绑攻击者的错误率提供了真实最坏情况错误率的下界。传统的报告各攻击间最大错误率的方法可能低估真实最坏情况错误率,且当攻击数量趋于无穷时低估量可接近 100%。攻击捆绑可结合不同的优先级方案,以优化诸如对抗样本上的错误率、导致误分类所需的扰动大小,或在使用特定置信阈值时的失败率等量。
引用
@article{arxiv.1811.03685,
title = {New CleverHans Feature: Better Adversarial Robustness Evaluations with Attack Bundling},
author = {Ian Goodfellow},
journal= {arXiv preprint arXiv:1811.03685},
year = {2018}
}