从无标签数据流中学习查询：联邦学习中的数据查询策略
机器学习
2024-12-13 v2 人工智能
分布式、并行与集群计算
摘要
联邦学习（FL）使去中心化客户端能够在保护本地数据隐私的前提下进行协同学习。现有的 FL 研究通常假设训练开始时每个客户端都有离线标注数据。然而，实际情况中，训练数据常以流式方式到达客户端，且没有真实标签。鉴于昂贵的标注成本，及时识别具有informative价值的样本进行标注至关重要。然而，在满足全局训练目标的同时在各客户端本地选择样本，对于 FL 独有的挑战。本文通过将 FL 中的数据查询过程建模为协作的去中心化决策问题，并提出有效解决方案 LeaDQ，利用多智能体强化学习算法。具体而言，在全局信息的隐式指导下，LeaDQ 有效学习分布式客户端的局部策略，引导它们选择能够提升全局模型准确率的样本。大量在图像和文本任务上的实验表明，LeaDQ 在各种 FL 场景下均优于基准算法。
引用
@article{arxiv.2412.08138,
title = {Learn How to Query from Unlabeled Data Streams in Federated Learning},
author = {Yuchang Sun and Xinran Li and Tao Lin and Jun Zhang},
journal= {arXiv preprint arXiv:2412.08138},
year = {2024}
}