ALTBI：通过优化正常样本记忆效应构建改进的异常检测模型

异常检测（OD）是通过学习正常观测值（或者说正常样本）的独特模式，从给定或即将到来的数据中识别异常观测值（或者说异常样本）的任务。最近，一项研究基于深度生成模型的一个新观察——即正常样本记忆（IM）效应——引入了一种强大的无监督OD（UOD）求解器，该效应表明生成模型在早期学习阶段先记忆正常样本后记忆异常样本。在本研究中，我们旨在通过最大化利用IM效应来开发一种理论上有原则的方法以解决UOD任务。我们首先观察到，当给定的训练数据包含更少的异常样本时，IM效应更加明显。这一发现表明，如果我们在设计损失函数时能够有效地从训练小批量中排除异常样本，那么在UOD设定下增强IM效应具有潜力。为此，我们引入两种主要技术：1）随着模型训练推进逐步增大训练小批量的大小，以及2）使用自适应阈值来计算截断损失函数。我们从理论上证明，这两种技术能够有效地从截断损失函数中过滤掉异常样本，使我们能够最大限度地利用IM效应。结合额外的集成策略，我们提出我们的方法并将其命名为批量递增的自适应损失截断（ALTBI）。我们提供了广泛的实验结果以证明ALTBI在识别异常样本方面相比其他近期方法达到了最先进的性能，即使计算成本显著更低。此外，我们表明我们的方法在与隐私保护算法结合时能够产生鲁棒的性能。