GPT4AIGChip:面向下一代基于大语言模型的 AI 加速器设计自动化
机器学习
2025-01-07 v2 硬件体系结构
摘要
人工智能(AI)的卓越能力与复杂本质极大地提升了对专用 AI 加速器的需求。然而,为各种 AI 工作负载设计这些加速器仍然耗费大量人力与时间。尽管现有的设计探索与自动化工具能部分缓解对大量人工参与的需求,它们仍要求深厚的硬件专业知识,对非专家构成障碍并抑制了 AI 加速器的发展。受大语言模型(LLM)根据人类语言指令生成高质量内容的惊人潜力驱动,我们开展本工作以探究利用 LLM 实现 AI 加速器设计自动化的可能性。通过此尝试,我们开发了 GPT4AIGChip,一个旨在通过人类自然语言而非领域特定语言来普及 AI 加速器设计的框架。具体而言,我们首先深入调研 LLM 在 AI 加速器设计中的局限与能力,从而帮助理解当前所处位置并获取基于 LLM 的自动化 AI 加速器设计见解。此外,受上述见解启发,我们开发了名为 GPT4AIGChip 的框架,其具备利用上下文学习自动生成演示增强提示的流水线,以引导 LLM 创建高质量的 AI 加速器设计。据我们所知,本工作是首个展示基于 LLM 的自动化 AI 加速器生成有效流水线的研究。因此,我们期望我们的见解与框架能成为下一代 LLM 驱动设计自动化工具创新的催化剂。
引用
@article{arxiv.2309.10730,
title = {GPT4AIGChip: Towards Next-Generation AI Accelerator Design Automation via Large Language Models},
author = {Yonggan Fu and Yongan Zhang and Zhongzhi Yu and Sixu Li and Zhifan Ye and Chaojian Li and Cheng Wan and Yingyan Celine Lin},
journal= {arXiv preprint arXiv:2309.10730},
year = {2025}
}
备注
Accepted by ICCAD 2023