基于特征的联邦迁移学习：通信效率、鲁棒性与隐私
机器学习
2024-05-16 v1 多智能体系统
摘要
在本文中，我们提出基于特征的联邦迁移学习作为一种新方法，通过将上行链路有效载荷相比现有联邦学习和联邦迁移学习方法减少多个数量级，来提高通信效率。具体而言，在所提出的基于特征的联邦学习中，我们设计上传提取的特征和输出而非参数更新。对于此分布式学习模型，我们确定了所需的有效载荷，并与现有方案进行了比较。随后，我们分析了基于特征的联邦迁移学习面对丢包、数据不足和量化时的鲁棒性。最后，我们通过定义和分析标签隐私泄露与特征隐私泄露来探讨隐私问题，并研究了缓解方法。针对上述所有分析，我们通过在图像分类任务和自然语言处理任务上的实验评估了所提学习方案的性能，以证明其有效性。
引用
@article{arxiv.2405.09014,
title = {Feature-based Federated Transfer Learning: Communication Efficiency, Robustness and Privacy},
author = {Feng Wang and M. Cenk Gursoy and Senem Velipasalar},
journal= {arXiv preprint arXiv:2405.09014},
year = {2024}
}
备注
Accepted by IEEE Transactions on Machine Learning in Communications and Networking. arXiv admin note: text overlap with arXiv:2209.05395