ADPretrain：面向工业异常检测的异常表示预训练方法
计算机视觉与模式识别
2025-11-10 v1
摘要
当前主流且最先进的异常检测（AD）方法大量依赖来自ImageNet预训练特征网络的特征。然而，无论是监督式还是自监督式预训练，ImageNet上的预训练过程并非以区分正常与异常为目标（即自然图像的预训练不旨在区分正常与异常）。此外，自然图像与工业图像数据在AD场景中通常存在分布迁移。上述两个问题可能导致ImageNet预训练特征在AD任务上次优。为推动AD领域的发展，专为AD任务预训练特征表征势在必然且极其宝贵。为此，我们提出一种 novel AD representation learning framework，专为学习针对工业异常检测的鲁棒且判别性强的预训练表征而设计。具体而言，我们围绕异常检测的目标（即聚焦正常与异常之间的差异），提出角度与范数导向的对比损失，同时最大化正常与异常特征之间的角度大小和范数差异。为避免从自然图像到AD图像的分布迁移，我们的预训练在大规模AD数据集RealIAD上进行。为进一步缓解预训练数据与下游AD数据集之间的潜在迁移，我们基于 class-generalizable representation学习预训练的AD表征。为评估，我们仅替换其原始特征即使用我们的预训练表征。五个基于嵌入的AD方法在五个AD数据集和五个主干网络上的大量实验一致显示，我们预训练特征的优越性。代码已公开于 https://github.com/xcyao00/ADPretrain。
引用
@article{arxiv.2511.05245,
title = {ADPretrain: Advancing Industrial Anomaly Detection via Anomaly Representation Pretraining},
author = {Xincheng Yao and Yan Luo and Zefeng Qian and Chongyang Zhang},
journal= {arXiv preprint arXiv:2511.05245},
year = {2025}
}
备注
Accepted by NeurIPS 2025