具有激励感知模型奖励的协作机器学习
机器学习
2020-10-27 v1 计算机科学与博弈论
多智能体系统
机器学习
摘要
协作机器学习（ML）是一种有吸引力的范式，通过在许多方聚合的数据上训练来构建高质量的 ML 模型。然而，这些方只有在获得足够激励（例如基于其贡献的公平奖励保证）时才愿意共享其数据。这激发了对衡量一方贡献并相应设计激励感知奖励方案的需求。本文提出基于 Shapley 值和给定其数据下模型参数的信息增益来评估一方的奖励。随后，我们给予每一方一个模型作为奖励。为正式激励协作，我们定义了一些受合作博弈论启发但针对我们可自由复制的独特模型奖励所调整的理想性质（例如公平性和稳定性）。然后，我们提出一种新颖的模型奖励方案，通过可调参数满足公平性并在理想性质之间权衡。我们方案中每一方模型奖励的价值通过对聚合训练数据注入具有优化噪声方差的高斯噪声来实现。我们使用合成和真实世界数据集实证展示了我们方案的有趣性质并评估了其性能。
引用
@article{arxiv.2010.12797,
title = {Collaborative Machine Learning with Incentive-Aware Model Rewards},
author = {Rachael Hwee Ling Sim and Yehong Zhang and Mun Choon Chan and Bryan Kian Hsiang Low},
journal= {arXiv preprint arXiv:2010.12797},
year = {2020}
}
备注
37th International Conference on Machine Learning (ICML 2020), Extended version with proofs and additional experimental results, 17 pages