防御对抗性拒绝服务数据投毒攻击
密码学与安全
2021-12-01 v3 人工智能
摘要
数据投毒是针对机器学习和数据驱动技术最相关的安全威胁之一。由于许多应用依赖于不可信的训练数据,攻击者可以轻易构造恶意样本并将其注入训练数据集,以降低机器学习模型的性能。如近期工作所示,此类拒绝服务(DoS)数据投毒攻击极为有效。为缓解该威胁,我们提出了一种检测DoS投毒样本的新方法。与相关工作不同,我们摒弃了基于聚类和异常检测的方法,后者常受维数灾难和任意异常阈值选择的困扰。相反,我们的防御以高度泛化的方式从训练数据中提取信息,从而能够基于数据中未投毒部分所包含的信息识别投毒样本。我们在两种DoS投毒攻击和七个数据集上评估了我们的防御,发现其能可靠地识别投毒样本。与相关工作相比,我们的防御将假阳性/假阴性率至少降低了50%,通常更多。
引用
@article{arxiv.2104.06744,
title = {Defending Against Adversarial Denial-of-Service Data Poisoning Attacks},
author = {Nicolas M. Müller and Simon Roschmann and Konstantin Böttinger},
journal= {arXiv preprint arXiv:2104.06744},
year = {2021}
}
备注
Published at ACSAC DYNAMICS 2020