Adapted-MoE:基于混合专家与测试时自适应的异常检测
计算机视觉与模式识别
2024-09-10 v1 人工智能
摘要
大多数基于正常样本表示来区分异常的无监督异常检测方法最近取得了显著进展。然而,现有方法仅学习单一决策边界来区分训练数据集内的样本,忽略了即使在同一类别中,真实世界正常样本的特征分布也存在差异。此外,这些方法未考虑测试集与训练集之间仍存在分布偏移。因此,我们提出了一种 Adapted-MoE,它包含一个路由网络和一系列专家模型,通过分而治之的策略来处理同类样本的多种分布。具体而言,我们提出了一种基于表示学习的路由网络,将同类样本路由至子类特征空间。随后,利用一系列专家模型来学习各种正常样本的表示,并构建若干独立的决策边界。我们提出测试时自适应以消除未见测试样本表示与专家模型所学特征分布之间的偏移。我们的实验在一个提供来自三个类别多个子类的数据集(即 Texture AD 基准)上进行。Adapted-MoE 显著提升了基线模型的性能,在 I-AUROC 和 P-AUROC 上分别实现了 2.18%-7.20% 和 1.57%-16.30% 的提升,优于当前 SOTA 方法。我们的代码可在 https://github.com/ 获取。
引用
@article{arxiv.2409.05611,
title = {Adapted-MoE: Mixture of Experts with Test-Time Adaption for Anomaly Detection},
author = {Tianwu Lei and Silin Chen and Bohan Wang and Zhengkai Jiang and Ningmu Zou},
journal= {arXiv preprint arXiv:2409.05611},
year = {2024}
}