中文

可扩展、高能效且可信的脉冲神经网络最新进展:从算法到技术

硬件体系结构 2023-12-05 v1 人工智能

摘要

神经形态计算,尤其是脉冲神经网络 (SNNs),已成为深度神经网络在广泛信号处理应用中的极具吸引力的替代方案,用于处理来自不同感知模态(包括音频和视觉传感器)的静态和/或时序输入。在本文中,我们首先描述了在算法和优化创新方面的最新进展,以高效训练和扩展用于复杂机器学习应用的低延迟、高能效脉冲神经网络 (SNNs)。然后,我们讨论了算法-架构协同设计方面的最新努力,这些努力探索了在实现高能效和低延迟的同时仍保持高准确率和可信度之间的内在权衡。接着,我们描述了为以高效方式利用此类算法创新而开发的基础硬件。特别是,我们描述了一种将模型的大部分计算整合到内存组件以及传感器本身的混合方法。最后,我们讨论了构建可部署 SNN 系统研究的潜在前进路径,指出了算法-硬件-应用协同设计空间中的关键挑战,并强调可信度。

关键词

引用

@article{arxiv.2312.01213,
  title  = {Recent Advances in Scalable Energy-Efficient and Trustworthy Spiking Neural networks: from Algorithms to Technology},
  author = {Souvik Kundu and Rui-Jie Zhu and Akhilesh Jaiswal and Peter A. Beerel},
  journal= {arXiv preprint arXiv:2312.01213},
  year   = {2023}
}

备注

5 pages, 3 figures