强数据增强在不损失精度的情况下消除投毒与后门攻击
密码学与安全
2020-11-20 v1 机器学习
摘要
数据投毒与后门攻击通过恶意修改训练数据来操纵受害模型。面对这一日益增长威胁，近期一项行业从业者调查揭示私营部门对数据投毒的恐惧加剧。许多既往防御方法要么在日益强大的攻击面前失效，要么显著损害性能。然而，我们发现强数据增强（如 mixup 与 CutMix）可在不牺牲性能的前提下大幅削弱投毒与后门攻击的威胁。我们进一步验证了这一简单防御对自适应投毒方法的有效性，并与包括流行的差分隐私 SGD（DP-SGD）防御在内的基线进行比较。在后门背景下，CutMix 极大缓解攻击的同时将验证准确率提升了9%。
引用
@article{arxiv.2011.09527,
title = {Strong Data Augmentation Sanitizes Poisoning and Backdoor Attacks Without an Accuracy Tradeoff},
author = {Eitan Borgnia and Valeriia Cherepanova and Liam Fowl and Amin Ghiasi and Jonas Geiping and Micah Goldblum and Tom Goldstein and Arjun Gupta},
journal= {arXiv preprint arXiv:2011.09527},
year = {2020}
}
备注
Authors ordered alphabetically