长尾分布离群检测:优先关注尾部
计算机视觉与模式识别
2024-12-19 v3
摘要
当前的离群检测方法通常假设输入分布(ID)数据是平衡的,而现实数据大多遵循长尾分布。先前的长尾离群检测方法常通过减少头部类别的语义来实现数据平衡,但这种做法会严重影响 ID 数据的分类准确率。该任务的主要挑战在于尾部类别的特征严重不足,导致与离群数据混淆。为解决此问题,我们引入了一种使用数据增强而非减少的方法的 novel Prioritizing Attention to Tail(PATT)方法。我们的主要直觉是使用 von Mises-Fisher(vMF)分布的混合来建模 ID 数据,并使用温度缩放模块提高 ID 数据的置信度。这使我们能够生成无限的对比对,隐式地增强了 ID 类别的语义,同时促进了 ID 与离群数据之间的区分。为了进一步在不损害 ID 数据分类性能的情况下提高离群检测能力,我们提出了推理阶段的特征校准方法。通过提取训练集中优先关注尾部类别的注意力权重并降低离群数据的置信度,我们提高了离群检测能力。广泛的实验验证了我们的方法在各种基准测试上的优于当前最先进的方法。
引用
@article{arxiv.2408.06742,
title = {Long-Tailed Out-of-Distribution Detection: Prioritizing Attention to Tail},
author = {Yina He and Lei Peng and Yongcun Zhang and Juanjuan Weng and Zhiming Luo and Shaozi Li},
journal= {arXiv preprint arXiv:2408.06742},
year = {2024}
}
备注
Accepted by AAAI'25. Extended version with full appendix, 13 pages