分布式学习中数据归因的脆弱性
机器学习
2026-05-18 v1 人工智能
分布式、并行与集群计算
摘要
数据归因已成为机器学习管道中定价、审计和治理的重要组成部分，但大多数归因方法隐含地假设归因值忠实地反映参与者的贡献。我们展示了这一假设可能失败：在标准的分布式训练工作流程中，单个参与者可以通过保持全局效用的同时，显著增大其测量到的归因值。我们的归因优先攻击利用潜在优化注入小型合成数据批次，以保持效用并利用非独立同分布标签覆盖和评估器敏感性。跨数据集、模型和多种边际效用评估器，该攻击始终增加对手的归因值，并在无益于准确性或触发几何防御的情况下重塑良性客户端之间的相对归因结构。这些结果表明，归因本身形成了新的攻击面，并推动了开发抗归因和激励兼容评分机制的需求。
引用
@article{arxiv.2605.15520,
title = {On the Fragility of Data Attribution When Learning Is Distributed},
author = {Xian Gao and Bo Hui and Min-Te Sun and Wei-Shinn Ku},
journal= {arXiv preprint arXiv:2605.15520},
year = {2026}
}