用于零样本异常检测的注意力头域自适应
计算机视觉与模式识别
2026-02-03 v2
摘要
零样本异常检测（ZSAD）能够在没有目标类别正常样本的情况下进行异常检测，以应对缺乏特定任务训练数据的场景。然而，现有的 ZSAD 方法要么忽视了视觉-语言模型向异常检测的适配，要么仅实现了部分适配。本文提出了注意力头自适应 CLIP（HeadCLIP），它有效地适配了文本和图像编码器。HeadCLIP 在文本编码器中采用可学习提示来泛化正常和异常概念，并在图像编码器中引入可学习的头权重，以动态调整注意力头特征从而实现特定任务适配。此外，还提出了一种联合异常分数，以利用适配后的像素级信息来增强图像级检测。在跨工业和医疗领域的 17 个数据集上的实验表明，HeadCLIP 在像素级和图像级上均优于现有的 ZSAD 方法，在工业领域实现了高达 4.9%p 的像素级平均异常检测分数（mAD）提升和 3.7%p 的图像级 mAD 提升，在医疗领域也取得了相当的提升（3.2%p, 3.2%p）。代码和预训练权重可在 https://github.com/kiyoonjeong0305/HeadCLIP 获取。
引用
@article{arxiv.2505.22259,
title = {Domain Adaptation of Attention Heads for Zero-shot Anomaly Detection},
author = {Kiyoon Jeong and Jaehyuk Heo and Junyeong Son and Pilsung Kang},
journal= {arXiv preprint arXiv:2505.22259},
year = {2026}
}