分布式偏移下去中心化深度学习中相似性度量的影响
机器学习
2025-02-21 v2
摘要
去中心化学习使组织或用户之间能够进行保护隐私的协作，以提升本地深度学习模型的性能。然而，当客户端数据异构时，模型聚合变得具有挑战性，并且在不直接交换数据的情况下识别兼容的协作者仍然是一个紧迫的问题。在本文中，我们研究了在去中心化学习中各种相似性度量在识别用于模型合并的同伴方面的有效性，并在存在分布偏移的多个数据集上进行了实证分析。我们的研究提供了关于这些度量性能的见解，考察了它们在促进有效协作中的作用。通过探索这些度量的优势和局限性，我们为稳健的去中心化学习方法的开发做出了贡献。
引用
@article{arxiv.2409.10720,
title = {On the effects of similarity metrics in decentralized deep learning under distributional shift},
author = {Edvin Listo Zec and Tom Hagander and Eric Ihre-Thomason and Sarunas Girdzijauskas},
journal= {arXiv preprint arXiv:2409.10720},
year = {2025}
}