针对分数阶Lp威胁模型的可证明对抗鲁棒性
机器学习
2022-03-18 v1 密码学与安全
摘要
近年来，研究者已在多种威胁模型下广泛研究对抗鲁棒性，包括L_0、L_1、L_2与L_infinity范数有界的对抗攻击。然而，由分数阶L_p“范数”（由0<p<1的L_p距离定义的准范数）有界的攻击尚未被充分考虑。我们主动提出一种具有若干理想属性的防御方法：它提供可证明（认证）鲁棒性，可扩展至ImageNet，并且在应用于量化数据（如图像）时产生确定性（而非高概率）的认证保证。我们的分数阶L_p鲁棒性技术构建了对于任意0<p<1关于L_p^p度量全局Lipschitz且具有表现力的深度分类器。然而，我们的方法更为通用：我们可以构建关于任何定义为分量凹函数之和的度量全局Lipschitz的分类器。我们的方法基于近期工作Levine和Feizi（2021）构建，该工作提供了针对L_1攻击的可证明防御。但我们证明，与使用（Levine和Feizi，2021）并直接应用范数不等式的平凡解相比，我们提出的保证高度非平凡。代码可在https://github.com/alevine0/fractionalLpRobustness获取。
引用
@article{arxiv.2203.08945,
title = {Provable Adversarial Robustness for Fractional Lp Threat Models},
author = {Alexander Levine and Soheil Feizi},
journal= {arXiv preprint arXiv:2203.08945},
year = {2022}
}
备注
AISTATS 2022 accepted paper