在线学习中数据投毒防御方法的调查研究
机器学习
2020-02-21 v3 密码学与安全
机器学习
摘要
数据投毒攻击——攻击者可以修改一小部分训练数据，目的是迫使训练出的分类器产生高损失——在许多应用中是机器学习的重要威胁。尽管已有大量先前工作开发了攻击与防御手段，但对于各类攻击和防御何时有效仍缺乏普遍理解。在本工作中，我们对在线学习中针对数据投毒的防御进行了严谨研究。首先，我们在一种强威胁模型下研究了四种标准防御，并给出了它们允许或抵御快速投毒的条件。随后我们考虑一种更弱且更现实的威胁模型，并表明在该模型下，面对数据投毒防御时攻击者的成功与否取决于学习问题的“难易程度”。
引用
@article{arxiv.1905.12121,
title = {An Investigation of Data Poisoning Defenses for Online Learning},
author = {Yizhen Wang and Somesh Jha and Kamalika Chaudhuri},
journal= {arXiv preprint arXiv:1905.12121},
year = {2020}
}