AutoSNN：面向高能效脉冲神经网络的自动架构搜索
神经与进化计算
2022-06-14 v3 人工智能
机器学习
摘要
模拟大脑信息传输的脉冲神经网络(SNNs)可通过离散且稀疏的脉冲高能效地处理时空信息，因而受到相当关注。为提升SNNs的精度与能效，以往研究多仅关注训练方法，而架构的影响鲜有探讨。我们从精度和脉冲数两方面考察了既往研究中的设计选择，发现它们并非最适于SNNs。为进一步提升精度并减少SNNs产生的脉冲，我们提出称为AutoSNN的脉冲感知神经架构搜索框架。我们定义了一个由不含不良设计选择的架构组成的搜索空间。为实现脉冲感知架构搜索，我们引入了同时考虑精度与脉冲数的适应度。AutoSNN成功搜索出在精度与能效上均优于手工设计SNNs的架构。我们在包括神经形态数据集在内的多个数据集上充分验证了AutoSNN的有效性。
引用
@article{arxiv.2201.12738,
title = {AutoSNN: Towards Energy-Efficient Spiking Neural Networks},
author = {Byunggook Na and Jisoo Mok and Seongsik Park and Dongjin Lee and Hyeokjun Choe and Sungroh Yoon},
journal= {arXiv preprint arXiv:2201.12738},
year = {2022}
}
备注
Accepted in ICML22