机器学习模型市场中基于无数据多样性的集成选择用于一次性联邦学习
机器学习
2023-02-24 v1 人工智能
摘要
训练好的机器学习模型的日益可得性提出了机器学习模型市场这一新概念，其中人们可以以无数据的方式通过一次性联邦学习和集成学习利用多个训练良好模型的集体智能来提升所得模型的性能。然而，挑选市场中可用的模型进行集成学习是耗时的，因为使用所有模型并非总是最佳方法。因此，拥有一种有效的集成选择策略以找到基模型的一个良好子集用于集成至关重要。传统的集成选择技术并不适用，因为在联邦学习设定中我们无法访问各方的本地数据集。在本文中，我们提出一种名为 DeDES 的 novel 无数据多样性基方法（Data-Free Diversity-Based method），以解决诸如模型市场等实际应用中由一次性联邦学习生成的模型的集成选择问题。实验表明，在不同数据划分策略下，我们的方法在 5 个数据集和 4 种不同模型结构上均能实现更好的性能和更高的效率。
引用
@article{arxiv.2302.11751,
title = {Data-Free Diversity-Based Ensemble Selection For One-Shot Federated Learning in Machine Learning Model Market},
author = {Naibo Wang and Wenjie Feng and Fusheng Liu and Moming Duan and See-Kiong Ng},
journal= {arXiv preprint arXiv:2302.11751},
year = {2023}
}