NSA：用于提升网络置信度的自然支持伪影
计算机视觉与模式识别
2023-07-28 v1 机器学习
摘要
视觉 AI 系统在真实世界中易受自然与合成物理损坏的影响。此类损坏常意外出现并改变模型性能。近年来，主要焦点集中于对抗攻击。然而，自然损坏（如雪、雾、灰尘）是对视觉 AI 系统无所不在的威胁，应被同等重视。许多现有工作提出了有趣方案以训练抵御自然损坏的鲁棒模型。这些工作或利用图像增强（附带额外的模型训练成本），或在场景中放置可疑补丁以设计非对抗样本。本工作中，我们提出自然支持伪影（NSA）用于鲁棒预测的思路。NSA 在模型参数不可访问且向场景中添加伪影可行的场景中被证明有益。NSA 是通过使用 DC-GAN 进行伪影训练生成、在场景中具有高视觉保真度的自然外观物体。我们在 Imagenette 数据集上针对自然损坏进行测试，观察到预测置信度分数提升四倍。我们还展示了 NSA 将对抗准确率平均提升 8% 的能力。最后，我们使用显著图对 NSA 进行定性分析，以理解其如何帮助提升预测置信度。
引用
@article{arxiv.2307.14917,
title = {NSA: Naturalistic Support Artifact to Boost Network Confidence},
author = {Abhijith Sharma and Phil Munz and Apurva Narayan},
journal= {arXiv preprint arXiv:2307.14917},
year = {2023}
}