超越摩尔定律:面向生成式 AI 的硬件-软件协同设计
硬件体系结构
2025-04-10 v1 人工智能
摘要
数十年来,摩尔定律一直是计算机体系结构和系统设计中的坚实支柱,推动着硬件与软件之间清晰的抽象之间的分离。这种传统的摩尔定律计算范式加深了两者之间的鸿沟,使软件开发人员能够实现近乎指数级的性能提升,往往无需深入硬件特定的优化。然而,今天的摩尔定律——其曾经不懈的性能提升如今仅限于渐进的改进——正面临着不可避免的物理障碍。这种停滞状态迫切需要重新评估传统的系统设计哲学。维护硬件与软件之间严格抽象的传统解耦系统设计哲学日益过时。软件与硬件之间的明确边界正迅速消失,被协同设计取代。计算社区必须加强对硬件-软件协同设计的承诺,将系统抽象提升为一等公民,并重新构想设计原则,以满足现代计算的无尽需求。硬件-软件协同设计并非新兴创新。为阐明其历史演变,我将其发展划分为五个相对独立的“时代”。本文还突出了架构社区在跨学科团队中的日益重要作用——特别是与 ML 研究人员的合作——并探讨了当前协同设计范式在当今计算环境中挣扎的原因。此外,我将考察“硬件抽奖”概念,探讨缓解其对下一代计算创新的约束性影响的方向。
引用
@article{arxiv.2504.06531,
title = {Beyond Moore's Law: Harnessing the Redshift of Generative AI with Effective Hardware-Software Co-Design},
author = {Amir Yazdanbakhsh},
journal= {arXiv preprint arXiv:2504.06531},
year = {2025}
}