针对标签翻转投毒攻击的标签净化
机器学习
2018-10-04 v2 密码学与安全
机器学习
摘要
许多机器学习系统依赖于从不可信来源在野外收集的数据，使学习算法暴露于数据投毒之下。攻击者可向训练数据集中注入恶意数据以颠覆学习过程，以针对性或 indiscriminate 方式产生错误从而损害算法性能。标签翻转攻击是数据投毒的特例，其中攻击者能控制分配给部分训练点的标签。即使攻击者能力受限，这些攻击已被证明能有效显著降级系统性能。在本文中，我们提出一种高效算法来执行最优标签翻转投毒攻击，以及一种检测并重新标注可疑数据点从而缓解此类投毒攻击影响的机制。
引用
@article{arxiv.1803.00992,
title = {Label Sanitization against Label Flipping Poisoning Attacks},
author = {Andrea Paudice and Luis Muñoz-González and Emil C. Lupu},
journal= {arXiv preprint arXiv:1803.00992},
year = {2018}
}