投毒以检测：联邦学习中目标过拟合的检测
密码学与安全
2025-09-16 v1 人工智能
摘要
联邦学习（FL）使分散的客户端能够在保持本地数据私密的同时进行协作模型训练，使其成为广泛采用的隐私增强技术（PET）。尽管具有隐私优势，FL 仍然容易受到隐私攻击，包括针对特定客户端的攻击。在本论文中，我们研究了一种未被充分探索的威胁，即不诚实的编排者故意操纵聚合过程，以在特定客户端的本地模型中诱导目标过拟合。与该领域的许多研究主要关注减少训练期间的信息泄露不同，我们侧重于使客户端能够早期检测目标过拟合，从而在造成重大损害之前断开连接。基于此，我们提出了三种检测技术——(a) 标签翻转，(b) 后门触发器注入，以及 (c) 模型指纹识别——使客户端能够验证全局聚合的完整性。我们在多种数据集和不同攻击场景下评估了我们的方法。结果表明，三种方法都能可靠地检测编排者诱导的目标过拟合，但它们在计算复杂度、检测延迟和误报率方面有所不同。
引用
@article{arxiv.2509.11974,
title = {Poison to Detect: Detection of Targeted Overfitting in Federated Learning},
author = {Soumia Zohra El Mestari and Maciej Krzysztof Zuziak and Gabriele Lenzini},
journal= {arXiv preprint arXiv:2509.11974},
year = {2025}
}