激励模型共享市场中的包容性贡献
人工智能
2025-05-06 v1 计算与语言
计算机科学与博弈论
摘要
尽管数据在训练当代人工智能模型中起着至关重要的作用，但公认有价值的公共数据将在几年内耗尽，这使全球注意力转向海量的去中心化私有数据。然而，原始数据的隐私敏感性以及缺乏激励机制阻碍了这些宝贵数据的充分利用。为应对这些挑战，本文提出了包容且激励的个性化联邦学习（iPFL），该方法激励具有不同目的的数据持有者在不泄露原始数据的情况下协作训练个性化模型。iPFL 通过解决基于图的训练优化问题构建了一个模型共享市场，并融合了基于博弈论原理的激励机制。理论分析表明，iPFL 遵循两个关键的激励属性：个体理性和真实性。在十一项 AI 任务（例如，大语言模型的指令遵循任务）上的实证研究表明，iPFL 始终实现最高的经济效用，并且与基线方法相比，模型性能更好或相当。我们预期，我们的 iPFL 可以作为一种有价值的技术，在利用去中心化私有数据推动未来 AI 模型发展的同时，让每个人都满意。
关键词
引用
@article{arxiv.2505.02462,
title = {Incentivizing Inclusive Contributions in Model Sharing Markets},
author = {Enpei Zhang and Jingyi Chai and Rui Ye and Yanfeng Wang and Siheng Chen},
journal= {arXiv preprint arXiv:2505.02462},
year = {2025}
}