联邦学习中的数据高估攻击与真实数据估值
密码学与安全
2025-05-27 v3 人工智能
机器学习
摘要
在协作机器学习（CML）中，数据估值，即评估每个客户端数据对机器学习模型的贡献，已成为激励和选择积极数据贡献的关键任务。然而，现有研究通常假设客户端真实地参与数据估值，忽略了客户端夸大其贡献的实际动机。为了揭示这一威胁，本文引入了数据高估攻击，使得策略性客户端能够在联邦学习（一种广泛采用的去中心化CML范式）中使其数据被显著高估。此外，我们提出了一种名为Truth-Shapley的贝叶斯真实数据估值度量。Truth-Shapley是唯一能保证数据估值的一些有前景的公理，同时确保在特定条件下客户端的最优策略是进行真实数据估值的度量。我们的实验证明了现有数据估值度量对所提出攻击的脆弱性，并验证了Truth-Shapley的鲁棒性和有效性。
引用
@article{arxiv.2502.00494,
title = {Data Overvaluation Attack and Truthful Data Valuation in Federated Learning},
author = {Shuyuan Zheng and Sudong Cai and Chuan Xiao and Yang Cao and Jianbin Qin and Masatoshi Yoshikawa and Makoto Onizuka},
journal= {arXiv preprint arXiv:2502.00494},
year = {2025}
}