对抗攻击下基于熟悉度的开集识别
计算机视觉与模式识别
2025-01-03 v2 机器学习
摘要
开集识别(OSR),即对新类别的辨识,在将分类模型部署于真实应用时可能是一个关键组成部分。近期工作表明,当闭集准确率较高时,基于熟悉度的打分规则(如最大 softmax 概率(MSP)或最大 logit 分数(MLS))是强劲的基线。然而,基于熟悉度的 OSR 的潜在弱点之一是对抗攻击。在此,我们研究针对两类攻击(虚假熟悉攻击与虚假新颖攻击)的熟悉度分数的基于梯度的对抗攻击,并在 TinyImageNet 上有信息和无信息设置下评估其有效性。此外,我们探究新颖样本与熟悉样本如何响应对抗攻击,并将对抗响应分数表述为一种替代的 OSR 打分规则,其显示出与 MLS 熟悉度分数的高度相关性。
引用
@article{arxiv.2311.05006,
title = {Familiarity-Based Open-Set Recognition Under Adversarial Attacks},
author = {Philip Enevoldsen and Christian Gundersen and Nico Lang and Serge Belongie and Christian Igel},
journal= {arXiv preprint arXiv:2311.05006},
year = {2025}
}
备注
Published in: Proceedings of the 6th Northern Lights Deep Learning Conference (NLDL), PMLR 265, 2025