Marsellus：一款异构 RISC-V AI-IoT 终端节点 SoC，具备 2 至 8 位 DNN 加速与 30% 提升的自适应体偏置
硬件体系结构
2023-11-29 v3 人工智能
机器学习
摘要
面向增强现实、个性化医疗与纳米机器人等新兴人工智能物联网（AI-IoT）片上系统（SoC）需要在数十 mW 的功耗范围内、广泛的工作条件下运行多种不同任务：计算密集但强量化的深度神经网络（DNN）推理，以及需要高精度浮点的信号处理与控制。我们提出 Marsellus，一款面向 AI-IoT 终端节点、采用 GlobalFoundries 22nm FDX 工艺制造的全数字异构 SoC，其结合：1）一个由 16 个 RISC-V 数字信号处理（DSP）核组成的通用计算簇，利用 4 位与 2 位算术扩展（XpulpNN）并融合 MAC&LOAD 操作与浮点支持，以执行多样化工作负载；2）一个 2–8 位可重构二进制引擎（RBE），用于加速 DNN 中的 3x3 与 1x1（逐点）卷积；3）一组片上监控（OCM）模块，连接至自适应体偏置（ABB）发生器与硬件控制回路，实现对晶体管阈值电压的即时自适应调节。Marsellus 在软件端 2 位精度算术下可达 180 Gop/s 或 3.32 Top/s/W，在硬件加速 DNN 层上可达 637 Gop/s 或 12.4 Top/s/W。
引用
@article{arxiv.2305.08415,
title = {Marsellus: A Heterogeneous RISC-V AI-IoT End-Node SoC with 2-to-8b DNN Acceleration and 30%-Boost Adaptive Body Biasing},
author = {Francesco Conti and Gianna Paulin and Angelo Garofalo and Davide Rossi and Alfio Di Mauro and Georg Rutishauser and Gianmarco Ottavi and Manuel Eggimann and Hayate Okuhara and Luca Benini},
journal= {arXiv preprint arXiv:2305.08415},
year = {2023}
}
备注
Post-print accepted by IEEE Journal of Solid-State Circuits. Fixed metadata (was missing one co-author), added DOI of IEEE JSSC