立场论文：评估集成基础模型的联邦学习中的鲁棒性、隐私与公平性
机器学习
2025-10-07 v2 密码学与安全
计算机与社会
摘要
联邦学习（FL）虽然是去中心化机器学习的突破，但仍面临数据可用性有限和计算资源差异等重大挑战，这些问题可能抑制模型的性能和可扩展性。将基础模型（FM）集成到 FL 中为解决这些问题提供了引人注目的方案，有望通过预训练和数据增强来丰富数据并降低计算需求。然而，这种集成引入了关于鲁棒性、隐私和公平性的新问题，而现有研究尚未充分解决这些问题。我们通过对这些维度系统地评估 FM-FL 集成的影响，对该领域进行了初步调查。我们分析了所涉及的权衡，揭示了该集成带来的威胁和问题，并提出了一套用于应对这些挑战的标准和策略。此外，我们确定了推动该领域发展的潜在研究方向，为未来创建可靠、安全和公平的 FL 系统奠定基础。
引用
@article{arxiv.2402.01857,
title = {Position Paper: Assessing Robustness, Privacy, and Fairness in Federated Learning Integrated with Foundation Models},
author = {Jiaqi Wang and Xi Li},
journal= {arXiv preprint arXiv:2402.01857},
year = {2025}
}
备注
This paper has been accepted by TrustFM: Workshop on Trustworthy Foundation Models in conjunction with ICCV 2025