基于随机平滑的可证明成本敏感对抗防御

随着 ML 模型日益部署于关键应用中，针对对抗扰动的鲁棒性至关重要。尽管已提出众多防御方法来抵御此类攻击，它们通常假设所有对抗变换同等重要，这一假设很少与真实应用相符。为此，我们研究成本敏感场景下的对抗扰动鲁棒学习问题，其中不同类型误分类的潜在危害由成本矩阵编码。我们的方案引入了可证明鲁棒的学习算法，基于可扩展的随机平滑认证框架，对成本敏感鲁棒性进行认证与优化。具体而言，我们形式化了成本敏感认证半径的定义，并提出对标准认证算法的全新适配，以生成针对任意成本矩阵的紧致鲁棒性证书。此外，我们设计了一种鲁棒训练方法，在不损害模型精度的前提下提升认证的成本敏感鲁棒性。在基准数据集（包括现有方法无法解决的困难数据集）上的大量实验，证明了我们的认证算法与训练方法在各种成本敏感场景中的有效性。