针对对抗样本的成本敏感鲁棒性
机器学习
2019-03-06 v2 密码学与安全
机器学习
摘要
近期的若干工作提出了训练在范数有界对抗扰动下可证明鲁棒的 classifier 的方法。这些方法假设所有对抗变换同等重要，而在真实世界应用中这很少成立。我们主张以成本敏感鲁棒性作为衡量 classifier 性能的标准，用于某些对抗变换比其他变换更重要的任务。我们将每种对抗变换的潜在危害编码进一个成本矩阵，并提出一个通用目标函数，将 Wong & Kolter (2018) 的鲁棒训练方法改造以优化成本敏感鲁棒性。我们在带有多种成本矩阵的简单 MNIST 和 CIFAR10 模型上的实验表明，所提方法能在保持分类准确率的同时，显著降低成本敏感鲁棒误差。
引用
@article{arxiv.1810.09225,
title = {Cost-Sensitive Robustness against Adversarial Examples},
author = {Xiao Zhang and David Evans},
journal= {arXiv preprint arXiv:1810.09225},
year = {2019}
}
备注
ICLR final version