通过远程证明实现可信联邦学习：抵御拜占凼式威胁
密码学与安全
2025-09-03 v1 人工智能
摘要
联邦学习 (FL) 因其隐私保留能力而受到广泛关注，使分布式设备能够在不共享原始数据的情况下协同训练全局模型。然而，其分布式性质使中心服务器被动地信任本地训练过程并聚合不确定的模型更新，使其易受来自恶意参与者的拜占凼式攻击的威胁，尤其是在关键场景下。检测此类攻击具有挑战性，因为跨客户端的知识差异，模型更新的差异可能源于良性因素，例如非独立同分布 (non-IID) 数据，而非恶意行为。现有的数据驱动防御措施难以区分恶意更新与自然变动，导致高假阳性率和差异的过滤性能。为了解决这一挑战，我们提出了一种基于远程证明 (remote attestation, RA) 的联邦学习方案，通过该方案恢复客户端的透明度并从系统安全角度抵御拜占凼式攻击。该系统采用代码插桩来跟踪控制流并监控本地训练过程中的关键变量。此外，我们在受信任执行环境 (TEE) 中利用受信任训练记录器生成证明报告，并通过加密签名安全传输到服务器。经过验证后，服务器确保合法的客户端训练过程保持免受程序行为违规或数据操纵的保护，仅允许受信任的模型更新被聚合到全局模型中。实验在物联网设备上表明，Sentinel 在低运行时和内存开销下确保了本地训练完整性的可信度。
引用
@article{arxiv.2509.00634,
title = {Enabling Trustworthy Federated Learning via Remote Attestation for Mitigating Byzantine Threats},
author = {Chaoyu Zhang and Heng Jin and Shanghao Shi and Hexuan Yu and Sydney Johns and Y. Thomas Hou and Wenjing Lou},
journal= {arXiv preprint arXiv:2509.00634},
year = {2025}
}