零样本下的对抗鲁棒新奇检测
机器学习
2025-01-28 v1
摘要
新奇检测（ND）在机器学习中发挥着关键作用，通过在模型推理期间识别新出现的或未见过的数据。这种能力对于自动化系统的安全可靠运行尤为重要。尽管该领域取得了进展，现有技术常常在遭受对抗攻击时难以维持性能。我们的研究通过将最近邻算法的优势与来自在 ImageNet 上预训练模型获取的鲁棒特征相结合，来弥合这一差距。我们专注于提升 ND 算法的鲁棒性和性能。实验结果表明，我们的方法在各种基准测试中显著优于当前最先进的方法，尤其在对抗条件下表现更为突出。通过将鲁棒预训练特征融入 k-NN 算法，我们在该领域的性能和鲁棒性方面树立了新的标准。这一工作为致力于强化机器学习系统抗对抗漏洞的研究开辟了新的方向。我们的实现已公开于 https://github.com/rohban-lab/ZARND。
引用
@article{arxiv.2501.15271,
title = {Killing it with Zero-Shot: Adversarially Robust Novelty Detection},
author = {Hossein Mirzaei and Mohammad Jafari and Hamid Reza Dehbashi and Zeinab Sadat Taghavi and Mohammad Sabokrou and Mohammad Hossein Rohban},
journal= {arXiv preprint arXiv:2501.15271},
year = {2025}
}
备注
Accepted to the Proceedings of the IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP) 2024