用于多类无监督异常检测的分层向量量化 Transformer
计算机视觉与模式识别
2023-10-24 v1
摘要
无监督图像异常检测（UAD）旨在学习正常样本鲁棒且具有判别力的表示。虽然每类单独解决方案带来高昂计算开销与有限泛化性，本文聚焦于构建多类的统一框架。在此极具挑战的设置下，基于连续隐表示假设的流行重构网络常受“恒等捷径”问题困扰，即正常与异常样本均能被良好恢复而难以区分。为解决这一关键问题，我们提出一种概率框架下的分层向量量化原型导向 Transformer。首先，我们不再学习连续表示，而是将典型正常模式保留为离散标志性原型，并确认向量量化在防止模型陷入捷径中的重要性。向量量化标志性原型被整合进 Transformer 用于重构，从而使异常数据点被翻转为正常数据点。其次，我们研究一种精细的分层框架以缓解码本崩塌问题并补充薄弱正常模式。第三，提出一种原型导向最优传输方法以更好地约束原型并分层评估异常分数。在 MVTec-AD 与 VisA 数据集上的评估表明，我们的模型超越了最先进的替代方法且具备良好可解释性。代码见 https://github.com/RuiyingLu/HVQ-Trans。
引用
@article{arxiv.2310.14228,
title = {Hierarchical Vector Quantized Transformer for Multi-class Unsupervised Anomaly Detection},
author = {Ruiying Lu and YuJie Wu and Long Tian and Dongsheng Wang and Bo Chen and Xiyang Liu and Ruimin Hu},
journal= {arXiv preprint arXiv:2310.14228},
year = {2023}
}