从迁移机器学习模型到智能处理单元(IPU)获取的洞见
机器学习
2024-04-23 v1 人工智能
摘要
本文所发现的发现表明,智能处理单元(IPU)为材料科学和电池研究领域的机器学习(ML)应用提供了可行的加速器替代方案。我们研究了将模型从 GPU 迁移到 IPU 的过程,并探索了旨在增强 IPU 基于模型性能的几种优化技术,包括流水线处理和梯度积累。此外,我们有效地将一个专用模型迁移到了 IPU 平台。该模型用于预测有效电导率,这一参数至关重要,用于支配电池多个充放电循环性能的离子传输过程。该模型利用卷积神经网络(CNN)架构执行有效电导率的预测任务。在 IPU 上的该模型性能与在 GPU 上的执行相当。我们还分析了 Graphcore 的 Bow IPU 的利用和性能。通过基准测试,我们观察到在性能上显著优于其前身 Colossus IPU 的 Bow IPU。
引用
@article{arxiv.2404.10730,
title = {Insight Gained from Migrating a Machine Learning Model to Intelligence Processing Units},
author = {Hieu Le and Zhenhua He and Mai Le and Dhruva K. Chakravorty and Lisa M. Perez and Akhil Chilumuru and Yan Yao and Jiefu Chen},
journal= {arXiv preprint arXiv:2404.10730},
year = {2024}
}
备注
arXiv admin note: This version has been removed by arXiv administrators as the submitter did not have the right to agree to the license at the time of submission