EmInspector：通过嵌入检查对抗联邦自监督学习中的后门攻击
密码学与安全
2024-05-24 v1 机器学习
摘要
联邦自监督学习（FSSL）近期成为一种有前景的范式，能够在保护数据隐私的同时利用客户端海量未标记数据。尽管 FSSL 具有优势，但传统联邦监督学习（FSL）中已发现的易受后门攻击的问题在 FSSL 中尚未得到研究。为了填补这一研究空白，我们对一种后门攻击范式进行了全面调查，其中恶意客户端合谋操纵全局模型，揭示了 FSSL 对此类攻击的脆弱性。在 FSL 中，后门攻击通常在触发器和目标标签之间建立直接关联。相比之下，在 FSSL 中，后门攻击旨在改变全局模型对包含攻击者指定触发模式的图像的表示，以偏向攻击者预期的目标类别，这不那么直接。从这个意义上讲，我们证明了现有的防御措施不足以缓解 FSSL 中所研究的后门攻击，因此寻找有效的防御机制迫在眉睫。为了解决这个问题，我们深入研究了 FSSL 后门攻击的基本机制，提出了嵌入检查器，通过检查局部模型的嵌入空间来检测恶意客户端。具体而言，EmInspector 使用一小组检查图像（例如 CIFAR100 的十张图像）评估来自不同局部模型的嵌入相似性，对样本分布或标签没有特定要求。我们发现，对于给定的检查图像，来自后门模型的嵌入往往在嵌入空间中聚集在一起。评估结果表明，EmInspector 能够在各种对手设置下有效缓解 FSSL 上的后门攻击。我们的代码可在 https://github.com/ShuchiWu/EmInspector 获取。
引用
@article{arxiv.2405.13080,
title = {EmInspector: Combating Backdoor Attacks in Federated Self-Supervised Learning Through Embedding Inspection},
author = {Yuwen Qian and Shuchi Wu and Kang Wei and Ming Ding and Di Xiao and Tao Xiang and Chuan Ma and Song Guo},
journal= {arXiv preprint arXiv:2405.13080},
year = {2024}
}
备注
18 pages, 12 figures