零样本去中心化联邦学习
人工智能
2025-10-01 v1 计算机视觉与模式识别
机器学习
摘要
CLIP通过实现无需微调的任务泛化，彻底改变了零样本学习。尽管CoOp和CoCoOp等提示技术增强了CLIP的适应性，但它们在联邦学习中的有效性仍然是一个开放的挑战。现有的联邦提示学习方法，如FedCoOp和FedTPG，虽然提高了性能，但面临泛化问题、高昂的通信成本以及对中心服务器的依赖，这限制了可扩展性和隐私性。我们提出了零样本去中心化联邦学习，这是一个完全去中心化的框架，能够在没有中央协调器的情况下，实现跨分布式客户端的零样本自适应。ZeroDFL采用了一种迭代的提示共享机制，允许客户端优化并交换文本提示以增强泛化能力，同时大幅降低通信开销。我们在九个不同的图像分类数据集上验证了ZeroDFL，证明其性能始终优于或持平于最先进的联邦提示学习方法。更重要的是，ZeroDFL在完全去中心化的设置下实现了这一性能，同时与FedTPG相比，通信开销减少了118倍。这些结果凸显出，我们的方法不仅增强了联邦零样本学习中的泛化能力，还提高了可扩展性、效率和隐私保护，为大型视觉-语言模型在现实应用中的去中心化自适应铺平了道路。
引用
@article{arxiv.2509.26462,
title = {Zero-Shot Decentralized Federated Learning},
author = {Alessio Masano and Matteo Pennisi and Federica Proietto Salanitri and Concetto Spampinato and Giovanni Bellitto},
journal= {arXiv preprint arXiv:2509.26462},
year = {2025}
}
备注
Accepted at International Joint Conference on Neural Networks (IJCNN) 2025. Code available at https://github.com/perceivelab/ZeroDFL