关于使用LLM进行软硬件协同设计的可行性：以设计CiM DNN加速器为例
机器学习
2023-06-13 v1 硬件体系结构
摘要
深度神经网络（DNNs）在广泛任务中展现了令人印象深刻的性能。然而，由于严苛的功耗与计算预算，在边缘设备上部署DNNs面临重大挑战。一种有效的解决方案是软硬件（SW-HW）协同设计，其允许量身定制DNN模型与硬件架构以最优利用可用资源。然而，软硬件协同设计传统上因优化器未利用启发式知识而优化速度缓慢，即所谓的“冷启动”问题。本研究提出一种利用大语言模型（LLMs）解决该问题的新方法。通过在协同设计优化过程中利用预训练LLMs的丰富知识，我们有效规避了冷启动问题，大幅加速了设计流程。所提方法实现了25倍的显著加速。该进展为在边缘设备上快速高效部署DNNs铺平了道路。
引用
@article{arxiv.2306.06923,
title = {On the Viability of using LLMs for SW/HW Co-Design: An Example in Designing CiM DNN Accelerators},
author = {Zheyu Yan and Yifan Qin and Xiaobo Sharon Hu and Yiyu Shi},
journal= {arXiv preprint arXiv:2306.06923},
year = {2023}
}