RocketPPA:基于 LLM 与混合专家的代码级功耗、性能和面积预测
机器学习
2025-06-12 v3 软件工程
摘要
本文提出 RocketPPA,一种 novel ultra-fast power、performance(延迟)和 area(面积)估计器,直接在代码级别抽象上运行,输入为 HDL 代码。其关键技术创新是其 LLM-based 回归模型,独特地将大语言模型(LLM)与由多层感知机(MLP)组成的混合专家(MoE)架构集成。LLM 解读输入 HDL 代码,然后利用其最终隐藏层表示预测 PPA 指标。采用低秩适应(LoRA)进行参数高效微调,以实现高效 LLM 训练。此外,本工作包括开发 LLM-based HDL 代码修复框架,以生成大量可综合的训练数据集。VerilogEval 数据集上的实验结果表明,RocketPPA 在 PPA 估计准确性方面显著优于 Llama3-MetRex-8B 等以往的最先进方法。具体而言,在 10% 相对误差阈值下,RocketPPA 在面积预测、延迟预测和功耗预测上的通过率分别提高了 13.6%、9.4% 和 14.7%。在 20% 阈值下,提升分别为 9.6%、10.8% 和 18.5%。此外,RocketPPA 在处理测试集时比 MetRex 快 20 倍,比 MasterRTL 快 30 倍。RocketPPA 的影响在于通过在设计周期早期提供准确的 PPA 估计,潜在大幅加速硬件设计流程,从而避免手动特征工程和耗时的综合流程开销。
引用
@article{arxiv.2503.21971,
title = {RocketPPA: Code-Level Power, Performance, and Area Prediction via LLM and Mixture of Experts},
author = {Armin Abdollahi and Mehdi Kamal and Massoud Pedram},
journal= {arXiv preprint arXiv:2503.21971},
year = {2025}
}