Polaris：深度学习加速器的多保真度设计空间探索
硬件体系结构
2024-12-23 v1
摘要
本文提出了一种自动探索深度学习加速器（DLA）设计空间的工具。我们的主要进展是 Starlight，一种数据驱动的性能模型，它利用迁移学习弥合快速低保真度评估方法（如分析模型）与慢速高保真度评估方法（如 RTL 仿真）之间的差距。Starlight 速度快：每秒可提供 6,500 次预测，允许每小时评估数百万种配置。Starlight 准确性高：以 99% 的准确率预测由 RTL 仿真测量的能量延迟积。且 Starlight 训练效率高：所需样本数比 DOSA 的最先进数据驱动性能预测器少 61%。我们的第二个贡献是 Polaris，一种设计空间探索工具，它使用 Starlight 高效搜索 DLA 庞大且复杂的硬件/软件协同设计空间。在 35 分钟内，Polaris 生成的 DLA 设计即可媲美使用 DOSA 需六小时才能生成的设计性能。而在不到 3.3 小时内，Polaris 生成的 DLA 设计相较于 DOSA 找到的最佳设计，可将能量延迟积降低 2.7 倍。
引用
@article{arxiv.2412.15548,
title = {Polaris: Multi-Fidelity Design Space Exploration of Deep Learning Accelerators},
author = {Chirag Sakhuja and Charles Hong and Calvin Lin},
journal= {arXiv preprint arXiv:2412.15548},
year = {2024}
}