用于分布外检测中感知机偏置的扩散去噪过程
计算机视觉与模式识别
2023-06-06 v2 人工智能
机器学习
机器学习
摘要
分布外（OOD）检测是确保深度学习可靠性与安全性的关键任务。当前，判别器模型在此方面优于其他方法。然而，判别器模型所用的特征提取过程存在关键信息丢失，为坏案例与恶意攻击留下隐患。本文提出一种新的感知机偏置假设，即判别器模型对输入的某些特征更敏感，从而导致过置信问题。为解决该问题，我们提出一种结合判别器与生成模型、并将扩散模型（DMs）引入 OOD 检测的新框架。我们证明 DMs 的扩散去噪过程（DDP）作为一种新颖的非对称插值形式，非常适于增强输入并缓解过置信问题。OOD 数据的判别器模型特征在 DDP 下呈现剧烈变化，我们利用该变化范数作为指标分数。在 CIFAR10、CIFAR100 和 ImageNet 上的实验表明，我们的方法优于 SOTA 方法。值得注意的是，对于具挑战性的 InD ImageNet 与 OOD 物种数据集，我们的方法取得 85.7 的 AUROC，超越先前 SOTA 方法的 77.4 分数。我们的实现见 \url{https://github.com/luping-liu/DiffOOD}。
引用
@article{arxiv.2211.11255,
title = {Diffusion Denoising Process for Perceptron Bias in Out-of-distribution Detection},
author = {Luping Liu and Yi Ren and Xize Cheng and Rongjie Huang and Chongxuan Li and Zhou Zhao},
journal= {arXiv preprint arXiv:2211.11255},
year = {2023}
}