Julia 云矩阵机：云中多核集群上的动态矩阵语言加速
分布式、并行与集群计算
2023-12-11 v3
摘要
在新兴的科学计算环境中，规模和复杂度不断增长的矩阵计算日益普遍。然而，当代矩阵语言实现在高效利用云计算资源（尤其是用户侧）方面的支持不足。因此我们开发了 Julia 高性能计算语言的扩展，使得矩阵计算在云中自动并行化，用户无需直接接触复杂的显式并行计算。我们实现了惰性求值语义与有向图相结合，以动态优化矩阵运算，同时动态模拟为给定云节点集群寻找最优分块大小与调度。构建了集群性能容量的时间模型预测以支撑模拟。云网络上通信与 worker 进程的自动配置使框架能自动扩展至异构节点集群。我们的框架实验评估包含在 AWS 公有云上十四节点（564 CPUs）集群的十一项基准测试，显示出最高 5.1 倍的加速比，加速比上限平均达到 74.39%。
引用
@article{arxiv.2205.07421,
title = {Julia Cloud Matrix Machine: Dynamic Matrix Language Acceleration on Multicore Clusters in the Cloud},
author = {Jay Hwan Lee and Yeonsoo Kim and Younghyun Ryu and Wasuwee Sodsong and Hyunjun Jeon and Jinsik Park and Bernd Burgstaller and Bernhard Scholz},
journal= {arXiv preprint arXiv:2205.07421},
year = {2023}
}