DataFreeShield:无需训练数据的对抗鲁棒防御
机器学习
2024-06-25 v1 密码学与安全
计算机视觉与模式识别
摘要
近期对抗鲁棒性进展依赖于大量训练数据,使用外部或额外的数据集已成为常见做法。然而,在现实情况下,训练数据常因安全和隐私问题而被保留私有,仅公开预训练权重。在此类情境下,假设能够获取原始数据的现有方法便不可用。因此,我们调查了数据免费对抗鲁棒性的关键问题,即在不访问任何真实数据的情况下实现对抗鲁棒性。通过初步研究,我们通过展示即使使用相似域的数据集,仅凭没有原始数据集的鲁棒性仍然难以实现来凸显了该问题的严重性。为解决此问题,我们提出了 DataFreeShield,从两个角度进行处理:代理数据集生成和使用生成数据进行对抗训练。通过广泛的验证,我们表明 DataFreeShield 优于基线方法,证明所提出的方法为对抗鲁棒性问题设定了第一个完全数据免费的解决方案。
引用
@article{arxiv.2406.15635,
title = {DataFreeShield: Defending Adversarial Attacks without Training Data},
author = {Hyeyoon Lee and Kanghyun Choi and Dain Kwon and Sunjong Park and Mayoore Selvarasa Jaiswal and Noseong Park and Jonghyun Choi and Jinho Lee},
journal= {arXiv preprint arXiv:2406.15635},
year = {2024}
}
备注
ICML 2024