LINe：利用重要神经元进行分布外检测
计算机视觉与模式识别
2023-03-27 v1
摘要
量化输入样本的不确定性十分重要，尤其在自动驾驶与医疗等任务关键领域，对分布外（OOD）数据的失败预测可能引发重大问题。OOD 检测问题的根源在于模型无法表达其未知之物。事后 OOD 检测方法被广泛探索，因其不需要可能降低模型性能并增加训练成本的额外重训练过程。在本研究中，从模型深层代表高级特征的神经元视角，我们引入了一种分析分布内数据与 OOD 数据之间模型输出差异的新角度。我们提出了一种新方法，利用重要神经元（LINe），用于事后分布外检测。基于 Shapley 值的剪枝通过仅选择对预测输入数据特定类别高贡献的神经元并屏蔽其余部分，从而降低噪声输出的影响。激活截断将所有高于某阈值的值固定为同一值，使 LINe 能平等对待所有类别特定特征，仅考虑分布内与 OOD 数据间激活特征数量差异。综合实验在 CIFAR-10、CIFAR-100 和 ImageNet 数据集上优于最先进的事后 OOD 检测方法，验证了所提方法的有效性。
引用
@article{arxiv.2303.13995,
title = {LINe: Out-of-Distribution Detection by Leveraging Important Neurons},
author = {Yong Hyun Ahn and Gyeong-Moon Park and Seong Tae Kim},
journal= {arXiv preprint arXiv:2303.13995},
year = {2023}
}
备注
IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2023