对抗攻击下共形推理的陷阱与前景

在医学影像和自动驾驶等安全关键应用中，决策对患者健康和道路安全具有深远影响，因此必须保持高对抗鲁棒性以防范潜在的对抗攻击，并在决策中进行可靠的不确定性量化。尽管已有大量研究致力于通过各种形式的对抗训练 来增强对抗鲁棒性，但关于对抗训练模型固有不确定性的显著知识空白依然存在。为了填补这一空白，本研究通过考察共形预测 在对抗防御领域标准对抗攻击情境下的表现，调查了深度学习模型的不确定性。首先揭示了，如果模型未经过对抗训练，现有的 CP 方法在对抗防御领域常用的 $l_{\infty}$-范数有界攻击下无法产生信息丰富的预测集，这凸显了对抗训练对 CP 的重要性。接着本文证明，使用带有 AT 变体的对抗训练模型时，CP 的预测集大小 通常劣于使用标准 AT，这促使我们研究 CP 高效的 AT 以改善 PSS。我们提出在 AT 过程中优化带有熵最小化正则化项的 Beta 加权损失以提高 CP 效率，其中理论分析表明 Beta 加权损失是群体水平上 PSS 的上界。此外，我们在四个图像分类数据集上、跨三种流行 AT 基线的实证研究验证了所提出的减少不确定性的对抗训练 的有效性。