Wasserstein 对抗鲁棒性验证框架
机器学习
2021-10-14 v1 计算机视觉与模式识别
摘要
机器学习图像分类器易受对抗扰动与腐蚀扰动的影响。向图像中添加难以察觉的噪声会导致机器学习模型的严重误分类。使用 -范数来度量噪声大小无法捕捉人类的相似性感知，这就是为什么基于最优传输的距离度量（如 Wasserstein 度量）在对抗鲁棒性领域日益被使用的原因。使用 Wasserstein 度量验证分类器的鲁棒性可通过证明对抗样本不存在（认证）或证明其存在（攻击）来实现。在这项工作中，我们提出一个基于 Levine 和 Feizi 工作的框架，该框架允许我们将针对凸多面体或 -球的现有认证方法迁移到 Wasserstein 威胁模型。根据所选是凸多面体还是 -球，所得认证可以是完全的或不完全的。此外，我们提出了一种新的基于投影梯度下降的 Wasserstein 对抗攻击，与现有攻击方法相比其计算负担显著降低。
引用
@article{arxiv.2110.06816,
title = {A Framework for Verification of Wasserstein Adversarial Robustness},
author = {Tobias Wegel and Felix Assion and David Mickisch and Florens Greßner},
journal= {arXiv preprint arXiv:2110.06816},
year = {2021}
}
备注
10 pages, 4 figures