用于分布外检测的去噪扩散模型
机器学习
2023-04-24 v4 计算机视觉与模式识别
摘要
分布外检测对于机器学习系统的安全部署至关重要。当前，无监督分布外检测由基于生成式的方法主导，这类方法利用生成模型给出的似然估计或其他度量。基于重构的方法提供了一种替代途径，即使用重构误差的度量来判断样本是否为分布外。然而，基于重构的方法较少受青睐，因为它们需要仔细调优模型的信息瓶颈——例如潜变量维度的大小——以产生良好结果。在本工作中，我们利用去噪扩散概率模型（DDPM）作为去噪自编码器的视角，其中瓶颈由所施加噪声量外部控制。我们提出使用 DDPM 对加噪至一系列噪声水平的输入进行重构，并利用所得的多维重构误差对分布外输入进行分类。我们在标准计算机视觉数据集以及更高维度的医学数据集上验证了我们的方法。我们的方法不仅优于基于重构的方法，也优于最先进的基于生成式的方法。代码可在 https://github.com/marksgraham/ddpm-ood 获取。
引用
@article{arxiv.2211.07740,
title = {Denoising diffusion models for out-of-distribution detection},
author = {Mark S. Graham and Walter H. L. Pinaya and Petru-Daniel Tudosiu and Parashkev Nachev and Sebastien Ourselin and M. Jorge Cardoso},
journal= {arXiv preprint arXiv:2211.07740},
year = {2023}
}