用于认证与对抗鲁棒分布外检测的去噪扩散平滑方法
机器学习
2023-08-11 v3 人工智能
计算机视觉与模式识别
摘要
随着机器学习应用持续扩展，确保其安全性至关重要。此方面的关键问题在于识别给定样本是否来自训练分布，或为“分布外”（OOD）样本。此外， adversary 可操纵 OOD 样本使分类器作出置信预测。本研究中，我们提出一种新方法，用于在输入周围 -范数内认证 OOD 检测的鲁棒性，该方法与网络架构无关且无需特定组件或额外训练。进一步，我们改进了当前针对 OOD 样本对抗攻击的检测技术，同时对分布内样本提供高水平的认证与对抗鲁棒性。CIFAR10/100 上所有 OOD 检测指标的平均值相对先前方法分别提升 。
引用
@article{arxiv.2303.14961,
title = {Diffusion Denoised Smoothing for Certified and Adversarial Robust Out-Of-Distribution Detection},
author = {Nicola Franco and Daniel Korth and Jeanette Miriam Lorenz and Karsten Roscher and Stephan Guennemann},
journal= {arXiv preprint arXiv:2303.14961},
year = {2023}
}