SaFL：一种女巫感知的联邦学习及其在人脸识别中的应用
计算机视觉与模式识别
2024-12-03 v2 密码学与安全
机器学习
摘要
联邦学习（Federated Learning, FL）是一种在客户端间就联合模型进行协作学习的机器学习范式。其主要目标是将客户端的本地训练参数与集成服务器共享，同时保护其隐私。该方法允许利用海量移动用户数据的潜力以提升机器学习模型性能，同时将敏感数据保留在本地设备上。不利的一面是，FL 引发了刚刚开始被研究的安全与隐私问题。为解决 FL 中若干关键威胁，研究者提出使用安全聚合方法（例如同态加密、安全多方计算等）。这些方案改善了部分安全与隐私指标，但同时带来了其他严重威胁，如投毒攻击、后门攻击和自由运行攻击。本文提出一种针对 FL 中投毒攻击的新防御方法，称为 SaFL（Sybil-aware Federated Learning，女巫感知联邦学习），其通过一种新颖的时变聚合方案将女巫（sybil）节点的影响最小化。
引用
@article{arxiv.2311.04346,
title = {SaFL: Sybil-aware Federated Learning with Application to Face Recognition},
author = {Mahdi Ghafourian and Julian Fierrez and Ruben Vera-Rodriguez and Ruben Tolosana and Aythami Morales},
journal= {arXiv preprint arXiv:2311.04346},
year = {2024}
}