中文

SOWA:将分层冻结窗口自注意力适配至视觉语言模型以实现更优的异常检测

计算机视觉与模式识别 2024-11-20 v4

摘要

视觉异常检测在工业制造中至关重要,然而传统方法严重依赖大量正常数据集和特定任务模型,限制了其可扩展性。大规模视觉语言模型的最新进展显著增强了零样本和少样本异常检测能力。然而,这些方法可能未能充分利用分层特征,从而可能忽略对精确检测至关重要的细微细节。为解决这一问题,我们引入了一种基于 CLIP 模型的全新窗口自注意力机制,并通过可学习提示在 Soldier-Officer 窗口自注意力(SOWA)框架内处理多级特征。我们的方法在五个基准数据集上进行了严格评估,在 20 项指标中的 18 项取得领先,超越了现有 SOTA 技术,树立了新的标准。

关键词

引用

@article{arxiv.2407.03634,
  title  = {SOWA: Adapting Hierarchical Frozen Window Self-Attention to Visual-Language Models for Better Anomaly Detection},
  author = {Zongxiang Hu and Zhaosheng Zhang},
  journal= {arXiv preprint arXiv:2407.03634},
  year   = {2024}
}

备注

8 pages, 9 figures, conference