无监督异常检测的双模型解耦蒸馏

基于学生-教师网络的知识蒸馏是解决挑战性无监督异常检测任务的主流方案之一，利用教师和学生网络在表示能力上的差异来实现异常局部分辨。然而，学生网络对教师网络的过度泛化可能导致表示能力差异微乎其微，从而影响检测效果。现有方法通过结构层面使用不同的学生和教师，或从内容层面显式扩展蒸馏信息来解决可能的过度泛化问题，这不可避免地增加了学生网络欠拟合的可能性，并在异常中心或边缘的异常检测能力方面表现不佳。本文提出了一种名为双模型解耦蒸馏 (DMDD) 的无监督异常检测方法。在DMDD中，提出了一种解耦学生-教师网络，用于将初始学生特征解耦为正常特征和异常特征。我们进一步基于正常-异常图像对，引入双模型蒸馏，拟合异常图像中正常特征和对应正常图像的教师特征，从而在异常区域扩大异常特征与教师特征之间的距离。将这两种蒸馏思想综合实现，聚焦于异常的边缘和中心进行异常检测。最后，提出了一种多感知分割网络，用于基于多个注意力机制实现聚焦异常图的融合。在MVTec AD数据集上的实验结果表明，DMDD在基于知识蒸馏的SOTA异常局部分辨方法中取得了98.85%的像素级AUC和96.13%的PRO分数。