你污染了我的数据吗？防御神经网络免受数据中毒攻击

训练数据前所未有的可用性推动了近年来强大神经网络的快速发展。然而，对如此大量数据的需求带来了潜在威胁，例如中毒攻击：对训练数据的对抗性操纵，旨在破坏已学习模型以实现给定的对抗目标。本文研究了针对干净标签中毒攻击的防御方法，并提出了一种在迁移学习设置下检测和过滤中毒数据点的新方法。我们定义了一种新的数据点特征向量表示，并表明它能有效捕获数据分布的内在属性。通过实验分析，我们证明了在特征向量空间中可以成功区分有效中毒点与干净点。我们全面评估了所提出的方法，并使用多种架构、数据集和中毒预算将其与现有的 state-of-the-art 防御方法进行了比较。评估结果表明，在所有实验设置下，我们的方法在防御率和最终训练模型性能上均优于现有方法。