最优传输正则化散度：在对抗鲁棒性中的应用

我们引入了一类新的最优传输正则化散度 $D^c$，其通过信息散度 $D$ 与最优传输（OT）代价 $C$ 之间的下卷积构造，并研究它们在分布鲁棒优化（DRO）中的使用。特别地，我们提出 $ARMOR_D$ 方法作为增强深度学习模型对抗鲁棒性的新途径。这些基于 DRO 的方法定义为：在训练数据经验分布的 $D^c$-邻域上最小化最大期望损失。作为一种构造对抗样本的工具，我们的方法允许根据 OT 代价对样本进行传输，并根据信息散度对样本重新加权；在对抗样本传输之上增加有原则的动态对抗重加权是 $ARMOR_D$ 的关键创新。$ARMOR_D$ 可视为对抗训练文献中性能最佳损失函数与 OT 代价的推广；我们通过使用 $ARMOR_D$ 增强 UDR、TRADES 和 MART 方法并在 CIFAR-10 与 CIFAR-100 图像识别上获得性能提升来展示这一灵活性。具体而言，在 CIFAR-10 和 CIFAR-100 上，使用 $ARMOR_D$ 增强分别针对强大对抗攻击集成 AutoAttack 带来了 1.9% 和 2.1% 的提升。为促进可复现性，我们将代码公开于 https://github.com/star-ailab/ARMOR。