野生环境中的自监督异常检测：优选联合嵌入方法
计算机视觉与模式识别
2024-10-08 v1 人工智能
机器学习
摘要
准确的基于视觉的基础设施检查异常检测至关重要，这有助于防止高昂的故障并提升安全性。自监督学习（SSL）提供了一个有前景的解决方案，通过从无标签数据中学习鲁棒的表示。然而，其在异常检测中的应用仍属未充分探索的领域。本文通过对现实世界异常检测进行全面评估，聚焦于下水道基础设施。我们使用Sewer-ML数据集，对ViT-Tiny和ResNet-18等轻量级模型在包括BYOL、Barlow Twins、SimCLR、DINO和MAE等SSL框架下进行评估，在不同类别不平衡水平下进行实验。通过250次实验，我们严格评估了这些SSL方法的性能，以确保其健壮且全面的评估。我们的发现表明，联合嵌入方法如SimCLR和Barlow Twins优于基于重建的做法如MAE，后者在类别不平衡情况下难以维持性能。此外，我们发现SSL模型选择比骨干网络架构更为关键。我们还强调需要更好的无标签SSL表示评估方法，因为当前方法如RankMe难以充分评估表示质量，使得无标签交叉验证不可行。尽管SSL模型与监督模型之间仍存在性能差距，但这些发现凸显了SSL在异常检测中的潜力，为该领域的进一步研究指明了方向。
引用
@article{arxiv.2410.04289,
title = {Self-Supervised Anomaly Detection in the Wild: Favor Joint Embeddings Methods},
author = {Daniel Otero and Rafael Mateus and Randall Balestriero},
journal= {arXiv preprint arXiv:2410.04289},
year = {2024}
}