拜占庭节点亦能从历史中学习：集中裁剪在联邦学习中的崩塌
机器学习
2024-01-02 v3 人工智能
密码学与安全
分布式、并行与集群计算
机器学习
摘要
联邦学习（FL）框架因在广泛协作学习任务中的成功而日益流行，但也引发了某些安全担忧。在众多漏洞中，拜占庭攻击的风险尤为令人关切，其指恶意客户端参与学习过程的可能性。因此，FL 的一个关键目标是消除拜占庭攻击的潜在影响并确保最终模型可信。已观察到客户端模型/更新间方差越大，拜占庭攻击可隐藏的空间就越大。因此，通过利用动量从而降低方差，可削弱已知拜占庭攻击的强度。集中裁剪（CC）框架进一步表明，来自前一次迭代的动量项除降低方差外，还可作为参考点以更好地消除拜占庭攻击。在本工作中，我们首先暴露 CC 框架的漏洞，并引入一种新颖攻击策略，该策略可规避 CC 及其他鲁棒聚合器的防御，在图像分类任务的最佳情形下将其测试准确率降低至多 33%。随后，我们提出一种新颖鲁棒且快速的防御机制，对所述及现有其他拜占庭攻击均有效。
引用
@article{arxiv.2208.09894,
title = {Byzantines can also Learn from History: Fall of Centered Clipping in Federated Learning},
author = {Kerem Ozfatura and Emre Ozfatura and Alptekin Kupcu and Deniz Gunduz},
journal= {arXiv preprint arXiv:2208.09894},
year = {2024}
}
备注
IEEE Transactions on Information Forensics and Security 2023