面向自监督学习中的对抗鲁棒性与后门缓解
计算机视觉与模式识别
2024-09-17 v3
摘要
自监督学习(SSL)在从无标签数据中学习表示方面显示出巨大潜力。无需人工标注即可学习表示的能力使得SSL在现实问题中得到广泛应用。然而，最近研究表明SSL方法容易受到后门攻击，攻击者可以通过篡改训练数据分布或修改模型本身来操纵学习到的表示。本文旨在解决SSL中的后门攻击防御问题，其中攻击者可以访问SSL训练数据的一个现实比例，但无法访问模型。我们使用了计算高效且在不同问题设置下具有泛化能力的新方法。我们还研究了使用我们的方法训练的SSL模型的对抗鲁棒性，并展示了通过频域增强提高SSL鲁棒性的见解。我们在多种SSL基准上证明了我们方法的有效性，并表明我们的方法能够在保持下游任务高性能的同时缓解后门攻击。我们的代码可在github.com/Aryan-Satpathy/Backdoor获取。
引用
@article{arxiv.2403.15918,
title = {Towards Adversarial Robustness And Backdoor Mitigation in SSL},
author = {Aryan Satpathy and Nilaksh Singh and Dhruva Rajwade and Somesh Kumar},
journal= {arXiv preprint arXiv:2403.15918},
year = {2024}
}
备注
8 pages, 2 figures