DICE:去中心化学习中的数据影响级联
机器学习
2025-07-10 v1 分布式、并行与集群计算
多智能体系统
社会与信息网络
机器学习
摘要
去中心化学习提供了一种通过点对点网络将地理分布的计算节点相互连接,以 crowdsource 数据消费和计算负载的 promising 方法,能够满足指数级增长的需求。然而,缺乏适当的激励机制严重阻碍了参与。我们设想,公平的激励机制依赖于对参与节点贡献的公平归因,而这在去中心化网络中因局部连接导致影响级联(cascade)而面临诸多挑战。为此,我们设计了首个在去中心化环境中估计算数影响级联(Data Influence Cascade,DICE)的方法。理论上,该框架对任意邻居跳数(hop)的影响级联给出可计算的近似,表明影响级联由数据、通信拓扑结构以及损失函数曲率的相互作用决定。DICE 还为诸如选择合适合作者和识别恶意行为等应用奠定了基础。项目页面可在 https://raiden-zhu.github.io/blog/2025/DICE/ 查看。
引用
@article{arxiv.2507.06931,
title = {DICE: Data Influence Cascade in Decentralized Learning},
author = {Tongtian Zhu and Wenhao Li and Can Wang and Fengxiang He},
journal= {arXiv preprint arXiv:2507.06931},
year = {2025}
}
备注
Published as a poster at ICLR 2025