TrustFed：一种具有恶意攻击抵抗能力的可靠联邦学习框架
密码学与安全
2023-12-11 v1 机器学习
摘要
作为6G研究中的一项关键技术，联邦学习（FL）能够在保障个体数据隐私的同时，实现多个客户端之间的协作学习。然而，参与客户端中的恶意攻击者可能故意篡改训练数据或已训练的模型，从而损害系统的准确性和可信度。为了解决这个问题，本文提出了一种基于分层审计的FL（HiAudit-FL）框架，旨在增强学习过程的可靠性和安全性。该分层审计过程包括两个阶段，即模型审计和参数审计。在模型审计阶段，采用一种低开销的审计方法来识别可疑客户端。随后，在参数审计阶段，采用一种资源消耗型方法，在可疑客户端中以更高的准确率检测出所有恶意客户端。具体而言，我们在部分客户端中执行多轮模型审计方法，并将其建模为一个部分可观察马尔可夫决策过程（POMDP），旨在增强复杂和不确定环境中决策的鲁棒性和可问责性。同时，我们将通过多轮审计识别恶意攻击者的问题形式化为一个主动序贯假设检验问题，并利用基于扩散模型的AI赋能审计选择策略（ASS）来决定每轮应审计哪些客户端。为了实现高效且有效的审计选择，我们通过将ASS融入深度强化学习（DRL）框架，设计了一种DRL-ASS算法。我们的仿真结果表明，HiAudit-FL能够以较小的系统开销，准确有效地识别并处理潜在的恶意用户。
引用
@article{arxiv.2312.04597,
title = {TrustFed: A Reliable Federated Learning Framework with Malicious-Attack Resistance},
author = {Hangn Su and Jianhong Zhou and Xianhua Niu and Gang Feng},
journal= {arXiv preprint arXiv:2312.04597},
year = {2023}
}
备注
13 pages, 9figures