学得更快的毒药更具效力
机器学习
2022-04-20 v1 密码学与安全
摘要
针对整个数据集的不可感知投毒攻击近来被鼓吹为保护数据隐私的方法。然而，在阻碍这些技术实际应用的众多防御中，早停作为一种简单却有效的防御脱颖而出。为衡量毒药对早停的脆弱性，我们以100个周期内峰值测试准确率为基准，对误差最小化、误差最大化和合成毒药进行了评测，并得出若干令人惊讶的观察。首先，我们发现更快达到较低训练损失的毒药具有更低的峰值测试准确率。其次，我们发现当前最先进的误差最大化毒药在第8轮停止毒药训练时效力降低7倍。第三，我们发现更强、更具迁移性的对抗攻击并不会产生更强的毒药。我们主张以峰值测试准确率来评测毒药。
引用
@article{arxiv.2204.08615,
title = {Poisons that are learned faster are more effective},
author = {Pedro Sandoval-Segura and Vasu Singla and Liam Fowl and Jonas Geiping and Micah Goldblum and David Jacobs and Tom Goldstein},
journal= {arXiv preprint arXiv:2204.08615},
year = {2022}
}
备注
8 pages, 4 figures. Accepted to CVPR 2022 Art of Robustness Workshop