非易失计算存储加速器上深度神经网络可持续部署专题
硬件体系结构
2025-08-19 v1
摘要
非易失存储器 (NVM) 基于计算存储 (CIM) 加速器因其原位数据处理能力，已成为显著提升深度神经网络 (DNN) 推理能源效率并最小化延迟的可持续解决方案。然而，NVCIM 加速器的性能会因 NVM 设备的随机性和固有变异性而退化。传统的写入-验证操作通过在部署期间进行迭代写入和验证来提高推理准确性，但在能源和时间方面代价高昂。灵感来自负反馈理论，我们提出了一种新颖的负优化训练机制，以实现 NVCIM 的稳健 DNN 部署。我们发展了 Oriented Variational Forward (OVF) 训练方法来实现这一机制。实验表明，OVF 在推理准确率上比现有最先进技术高出最高 46.71%，同时降低了表观不确定性。这一机制减少了写入-验证操作的依赖，从而促进了 NVCIM 加速器的可持续和实际部署，同时在保持可持续计算 NVCIM 加速器优势的同时解决性能退化问题。
引用
@article{arxiv.2508.12195,
title = {Special Session: Sustainable Deployment of Deep Neural Networks on Non-Volatile Compute-in-Memory Accelerators},
author = {Yifan Qin and Zheyu Yan and Wujie Wen and Xiaobo Sharon Hu and Yiyu Shi},
journal= {arXiv preprint arXiv:2508.12195},
year = {2025}
}
备注
Published in 2024 International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS)