Resultant：基于似然的无监督离群检测中的增量有效性
机器学习
2024-09-09 v1 机器学习
摘要
无监督离群检测（U-OOD）旨在识别仅基于无标签内分布（ID）数据的检测器所识别的离群数据样本。虽然由深度生成模型（DGM）估计的似然函数可作为自然检测器，但其在一些流行的“困难”基准测试（如FashionMNIST（ID） vs. MNIST（OOD））中性能受限。近期研究开发了各种基于DGM的检测器以超越似然，但尽管在“困难”基准测试中取得成功，这些方法大多数人在某些“非困难”案例（如SVHN（ID） vs. CIFAR10（OOD）中几乎完美的似然检测器）中难以持续超越或匹配性能。因此，我们呼吁关注似然的增量有效性，即方法是否能在U-OOD检测中始终超越或至少匹配似然的性能。我们首先研究变分DGM的似然，发现其检测性能可从两个方向进行改进：i)缓解潜在分布不匹配，ii)校准数据熵-互信息集成。随后，我们针对每个方向应用两种技术，具体为后验先验和数据熵-互信息校准。最终的方法，称为Resultant，将这两个方向结合起来，以实现相对于单一技术的更好增量有效性。实验结果表明，Resultant在广泛的任务中可作为新的无监督离群检测器，同时在似然上保持增量有效性。
引用
@article{arxiv.2409.03801,
title = {Resultant: Incremental Effectiveness on Likelihood for Unsupervised Out-of-Distribution Detection},
author = {Yewen Li and Chaojie Wang and Xiaobo Xia and Xu He and Ruyi An and Dong Li and Tongliang Liu and Bo An and Xinrun Wang},
journal= {arXiv preprint arXiv:2409.03801},
year = {2024}
}