AnalogNAS-Bench:面向模拟存储计算的 NAS 基准
机器学习
2025-06-24 v1 硬件体系结构
摘要
模拟存储计算(Analog In-memory Computing, AIMC)已成为加速深度神经网络(Deep Neural Networks, DNNs)的高效范式,相较于传统数字硬件在能源和延迟方面具有显著优势。然而,当前最先进的神经网络并非为 AIMC 而设计,因其未能考虑其独特的非理想因素。因此,神经网络架构搜索(Neural Architecture Search, NAS)即刻需要以针对 AIMC 约束进行系统性发现神经网络架构。然而,比较 NAS 方法并从根本上了解针对 AIMC 稳健架构的洞见,需要一个显式考虑 AIMC 特定硬件非理想因素的专门 NAS 基准。为此,我们引入 AnalogNAS-Bench,这是第一个专为 AIMC 量身定制的 NAS 基准。我们的研究揭示了三个关键见解:(1)标准量化技术未能捕捉 AIMC 特定的噪声;(2)稳健架构倾向于采用更宽且分支更广的模块;(3)跳跃连接可提高对时间漂移噪声的韧性。这些见解凸显了当前 NAS 基准对于 AIMC 的局限性,为未来模拟感知 NAS 之路。本文中使用的所有实现均可在 https://github.com/IBM/analog-nas/tree/main/analognasbench 查阅。
引用
@article{arxiv.2506.18495,
title = {AnalogNAS-Bench: A NAS Benchmark for Analog In-Memory Computing},
author = {Aniss Bessalah and Hatem Mohamed Abdelmoumen and Karima Benatchba and Hadjer Benmeziane},
journal= {arXiv preprint arXiv:2506.18495},
year = {2025}
}