数据增强是一种超参数:无监督异常检测中被精心挑选的自监督学习正在制造成功的假象
机器学习
2023-07-31 v7 人工智能
摘要
自监督学习(SSL)已成为一种有前景的替代方案,可为现实世界问题创建监督信号,从而避免人工标注的巨大成本。SSL 对于无监督任务(如异常检测(AD))尤其具有吸引力,因为其中带标签的异常稀少或往往不存在。大量增强函数已被用于基于 SSL 的图像数据异常检测(SSAD),近期工作报道增强类型对准确率有显著影响。受此启发,本工作旨在以更广阔的视角审视基于图像的 SSAD,并研究数据增强在 SSAD 中的作用。通过在 3 种不同检测器模型和 420 个 AD 任务上的大量实验,我们提供了全面的数值与可视化证据,表明数据增强与异常生成机制之间的对齐是 SSAD 成功的关键,而在缺乏此种对齐时,SSL 甚至可能损害准确率。据我们所知,这是首个关于数据增强在 SSAD 中作用的元分析。
引用
@article{arxiv.2208.07734,
title = {Data Augmentation is a Hyperparameter: Cherry-picked Self-Supervision for Unsupervised Anomaly Detection is Creating the Illusion of Success},
author = {Jaemin Yoo and Tiancheng Zhao and Leman Akoglu},
journal= {arXiv preprint arXiv:2208.07734},
year = {2023}
}
备注
Transactions on Machine Learning Research (TMLR)