面向联邦提示学习的选择性精准后门拒绝 SABRE-FL
密码学与安全
2026-01-28 v2 人工智能
摘要
联邦提示学习已成为一种高效且隐私保护的范式，用于在分散的客户端上调整大型视觉语言模型如 CLIP。然而，这种设置的安全隐患仍未得到充分探讨。本文首次研究了联邦提示学习中的后门攻击。我们展示，当恶意客户端将不可见的、可学习的噪声触发器注入输入图像时，全局提示学习者会对目标误分类具有脆弱性，而在干净输入上仍保持高准确率。针对这种脆弱性，我们提出了 SABRE-FL，一种轻量级、模块化的防御机制，通过在离线训练的异常检测器筛选被毒化的提示更新来实现。SABRE-FL 无需访问原始客户端数据或标签，并且能够跨越多个数据集。我们既在理论上又在实证中表明，使用基于嵌入的检测器可以可靠地识别并过滤恶意客户端。在五个多样化数据集和四个基线防御上，SABRE-FL 在显著降低后门准确率的同时保持干净准确率，展示了强大的实证性能，凸显了未来联邦系统中稳健提示学习的重要性。
引用
@article{arxiv.2506.22506,
title = {SABRE-FL: Selective and Accurate Backdoor Rejection for Federated Prompt Learning},
author = {Momin Ahmad Khan and Yasra Chandio and Fatima Muhammad Anwar},
journal= {arXiv preprint arXiv:2506.22506},
year = {2026}
}
备注
ICLR 2026