HaloAE:一种基于 HaloNet 的局部 Transformer 自编码器用于异常检测与定位
计算机视觉与模式识别
2025-04-03 v3 人工智能
摘要
无监督异常检测与定位是一项关键任务,因为不可能收集并标注所有可能的异常。许多研究强调了整合局部与全局信息以实现异常精确分割的重要性。为此,对 Transformer 的兴趣日益增长,其允许建模长程内容交互。然而,通过自注意力进行的全局交互对于大多数图像尺度通常过于昂贵。在本研究中,我们提出 HaloAE,这是首个基于 HaloNet 的局部二维版本 Transformer 的自编码器。通过 HaloAE,我们构建了一个混合模型,结合卷积与局部二维分块自注意力层,并通过单一模型联合执行异常检测与分割。我们在 MVTec 数据集上取得了具有竞争力的结果,表明融合 Transformer 的视觉模型可受益于自注意力操作的局部计算,并为其他应用铺平道路。
引用
@article{arxiv.2208.03486,
title = {HaloAE: An HaloNet based Local Transformer Auto-Encoder for Anomaly Detection and Localization},
author = {E. Mathian and H. Liu and L. Fernandez-Cuesta and D. Samaras and M. Foll and L. Chen},
journal= {arXiv preprint arXiv:2208.03486},
year = {2025}
}
备注
21 pages, 6 figures, rejected to ECCV 2023