通过最优轨迹连接最优传输与 Jacobian 正则化以增强对抗防御
计算机视觉与模式识别
2024-02-14 v3
摘要
深度神经网络，特别是在视觉任务中，极易受到对抗扰动的影响。为了克服这一挑战，开发鲁棒的分类器至关重要。鉴于分类器鲁棒性方面的最新进展，我们深入探讨了对抗训练和 Jacobian 正则化这两种关键防御机制的复杂性。我们的工作首次从理论和经验两方面仔细分析并刻画了这两类方法，以展示每种方法如何影响分类器的鲁棒学习。接着，我们提出了一种新颖的带有 Jacobian 正则化的最优传输方法，称为 OTJR，通过利用最优传输理论将输入 Jacobian 正则化与输出表示对齐联系起来。具体而言，我们采用了 Sliced Wasserstein 距离，无论数据集内的类别数量如何，它都能有效地将对抗样本的表示推向更接近干净样本的表示。SW 距离为 Jacobian 正则化提供了对抗样本的移动方向，这包含了更丰富的信息且更为强大。我们的实证评估在该领域确立了新标准，我们的方法在 AutoAttack 下的 CIFAR-10 和 CIFAR-100 数据集上分别取得了 52.57% 和 28.3% 的值得称赞的准确率。为了进一步验证我们模型的实用性，我们通过对来自互联网的图像进行在线对抗攻击来进行真实世界测试。这些展示突显了我们的模型抵消复杂对抗扰动能力，证实了其在真实场景中的重要性与适用性。
引用
@article{arxiv.2303.11793,
title = {Bridging Optimal Transport and Jacobian Regularization by Optimal Trajectory for Enhanced Adversarial Defense},
author = {Binh M. Le and Shahroz Tariq and Simon S. Woo},
journal= {arXiv preprint arXiv:2303.11793},
year = {2024}
}