基于新兴RISC-V系统的去中心化机器学习实验
分布式、并行与集群计算
2023-10-19 v3 机器学习
摘要
去中心化机器学习(DML)能够在无集中式输入数据的情况下实现协作式机器学习。联邦学习(FL)与边缘推理是DML的实例。尽管用于DML（尤其是FL）的工具开始涌现，但许多工具不够灵活和可移植，难以用于实验新型处理器（如RISC-V）、非全连接网络拓扑以及异步协作方案。我们通过一种领域特定语言克服了这些限制，该语言允许我们将DML方案映射到底层中间件，即FastFlow并行编程库。我们通过在x86-64、ARM平台及一个新兴的RISC-V平台上生成不同的可行DML方案来对其进行实验。我们刻画了所提方案与系统的性能和能效。作为副产品，我们引入了PyTorch框架的RISC-V移植版，据我们所知这是首个公开可用的此类移植。
引用
@article{arxiv.2302.07946,
title = {Experimenting with Emerging RISC-V Systems for Decentralised Machine Learning},
author = {Gianluca Mittone and Nicolò Tonci and Robert Birke and Iacopo Colonnelli and Doriana Medić and Andrea Bartolini and Roberto Esposito and Emanuele Parisi and Francesco Beneventi and Mirko Polato and Massimo Torquati and Luca Benini and Marco Aldinucci},
journal= {arXiv preprint arXiv:2302.07946},
year = {2023}
}
备注
This paper is the accepted version of ACM copyrighted material presented at the CF'23 conference in Bologna, Italy