基于速率-失真-感知权衡防御SSL的重复后门攻击
计算机视觉与模式识别
2024-12-05 v2
摘要
半监督学习（SSL）通过利用从互联网获得的大量未标记数据，实现了在少量标记数据下的卓越性能。然而，这一大量不可信数据极易受到数据投毒，导致潜在的后门攻击。当前的后门防御尚未有效应对SSL的此种漏洞。本研究提出一种新方法，称为无标签数据纯化（UPure），通过在频域引入扰动来破坏触发模式与目标类别之间的关联。利用速率-失真-感知（RDP）权衡，我们进一步识别扰动添加的频带，并证明了该选择。值得注意的是，UPure无需额外的干净标记数据即可纯化受感染的无标签数据。在四个基准数据集和五个SSL算法上的大量实验表明，UPure有效地将攻击成功率从 99.78% 降至 0%，同时保持模型准确率。代码已提供：\url{https://github.com/chengyi-chris/UPure}。
引用
@article{arxiv.2407.10180,
title = {Defending Against Repetitive Backdoor Attacks on Semi-supervised Learning through Lens of Rate-Distortion-Perception Trade-off},
author = {Cheng-Yi Lee and Ching-Chia Kao and Cheng-Han Yeh and Chun-Shien Lu and Chia-Mu Yu and Chu-Song Chen},
journal= {arXiv preprint arXiv:2407.10180},
year = {2024}
}
备注
Accepted by WACV 2025