Foundation Models 和 Transformers 在异常检测中的应用：综述
机器学习
2025-07-23 v1 人工智能
摘要
在深度学习发展的背景下，本综述考察了 Transformer 和 foundation model 在推动视觉异常检测（VAD）方面发挥的变革性作用。我们探讨了这些架构凭借其全局感受野和适应性，如何解决长程依赖建模、上下文建模和数据稀缺等挑战。综述将 VAD 方法分为重建基方法、特征基方法和零/少样本方法，突出了 foundation model 带来的范式转变。通过集成注意力机制并利用大规模预训练，Transformer 和 foundation model 能够实现更稳健、更可解释且可扩展的异常检测解决方案。本文提供了关于利用这些架构进行 VAD 的最新技术、优势、局限性及新兴趋势的全面回顾。
关键词
引用
@article{arxiv.2507.15905,
title = {Foundation Models and Transformers for Anomaly Detection: A Survey},
author = {Mouïn Ben Ammar and Arturo Mendoza and Nacim Belkhir and Antoine Manzanera and Gianni Franchi},
journal= {arXiv preprint arXiv:2507.15905},
year = {2025}
}