ytopt：面向大规模科学应用能效的自动调优框架
分布式、并行与集群计算
2023-03-30 v1 机器学习
性能
摘要
随着我们进入 exascale（百亿亿次）计算时代，在功耗与能量约束下高效利用电力并优化科学应用性能变得关键且具挑战性。我们提出了一种低开销自动调优框架，用于在大规模下对多种混合 MPI/OpenMP 科学应用进行性能与能耗自动调优，并探索应用运行时间与功耗/能耗之间的权衡以实现节能执行，随后使用该框架对四个 ECP 代理应用——XSBench、AMG、SWFFT 和 SW4lite——进行自动调优。我们的方法采用带随机森林代理模型的贝叶斯优化，在两大生产级系统（阿贡国家实验室的 Theta 与橡树岭国家实验室的 Summit）上有效搜索多达 600 万种不同配置的参量空间。实验结果表明，我们的大规模自动调优框架开销低且具备良好可扩展性。利用所提自动调优框架确定最佳配置，我们在最多 4096 个节点上实现了高达 91.59% 的性能提升、高达 21.2% 的能耗节省以及高达 37.84% 的 EDP 改善。
引用
@article{arxiv.2303.16245,
title = {ytopt: Autotuning Scientific Applications for Energy Efficiency at Large Scales},
author = {Xingfu Wu and Prasanna Balaprakash and Michael Kruse and Jaehoon Koo and Brice Videau and Paul Hovland and Valerie Taylor and Brad Geltz and Siddhartha Jana and Mary Hall},
journal= {arXiv preprint arXiv:2303.16245},
year = {2023}
}