通过异常检测识别投毒攻击中的对抗训练样本

机器学习已成为许多系统和应用的重要组成部分，包括计算机视觉、垃圾邮件过滤、恶意软件和网络入侵检测等。尽管机器学习算法能够从数据中提取有价值的信息并作出准确预测，但已有研究表明这些算法易受攻击。数据投毒是针对机器学习系统最相关的安全威胁之一，攻击者可通过在训练数据中注入恶意样本来破坏学习过程。对抗机器学习近期的工作表明，所谓的最优攻击策略能够成功投毒线性分类器，在仅破坏训练数据集一小部分后便使系统性能急剧下降。本文提出一种基于离群点检测的防御机制，以减轻这些最优投毒攻击的影响。我们通过实验表明，这些攻击策略生成的对抗样本与真实样本差异很大，因为在构造攻击时未考虑可检测性约束。因此，通过对训练数据集进行适当的预过滤即可将其检测出来。