对抗鲁棒的单类新颖性检测

单类新颖性检测器使用特定类别的样本进行训练，其任务是识别查询样本是否属于同一已知类别。最近的进展大多采用深度自编码器风格的架构来计算新颖性分数，以检测新类数据。深度网络已被证明容易受到对抗攻击，但很少有人关注研究深度新颖性检测器的对抗鲁棒性。在本文中，我们首先表明现有的新颖性检测器容易受到对抗样本的攻击。我们进一步证明，常用于分类任务的防御方法在单类新颖性检测中效果有限。因此，我们需要一种专门为新颖性检测设计的防御方法。为此，我们提出了一种操纵新颖性检测器潜在空间的防御策略，以提高对对抗样本的鲁棒性。所提出的方法被称为主成分潜在空间(PrincipaLS)，它在潜在空间中学习增量训练的级联主成分，以增强新颖性检测器的鲁棒性。PrincipaLS能够净化潜在空间以抵御对抗样本，并约束潜在空间使其专门对已知类别分布进行建模。我们在八种攻击、五个数据集和七种新颖性检测器上进行了大量实验，结果表明PrincipaLS持续增强了新颖性检测模型的对抗鲁棒性。代码可在 https://github.com/shaoyuanlo/PrincipaLS 获取。