马赛克学习：一种模型碎片化的去中心化学习框架
机器学习
2026-02-05 v1
摘要
去中心化学习（DL）使机器学习（ML）能够在没有中心服务器的情况下进行协作，适用于训练数据无法集中存放的场景。我们引入马赛克学习（Mosaic Learning），一种DL框架，将模型分解为碎片并独立在网络中传播。碎片化减少了在相关参数上的冗余通信，使信息传播更具多样性而不增加通信成本。我们理论上表明，马赛克学习（i）实现了最差情况收敛率的SOTA，（ii）利用ML模型中的参数相关性，通过降低简化系统的最高特征值来提高收敛。我们在四个学习任务上进行经验评估，结果显示与流行学习（EL）等SOTA基线相比，节点级测试准确率提高了最高可达12个百分点。总之，马赛克学习在不牺牲实用性或效率的前提下提升了DL性能，并作为新的DL标准定位自身。
引用
@article{arxiv.2602.04352,
title = {Mosaic Learning: A Framework for Decentralized Learning with Model Fragmentation},
author = {Sayan Biswas and Davide Frey and Romaric Gaudel and Nirupam Gupta and Anne-Marie Kermarrec and Dimitri Lerévérend and Rafael Pires and Rishi Sharma and François Taïani and Martijn de Vos},
journal= {arXiv preprint arXiv:2602.04352},
year = {2026}
}