脉冲神经网络集成
神经与进化计算
2021-09-07 v2 人工智能
摘要
本文展示了如何构建产生 SOTA 结果的脉冲神经网络集成，在 MNIST、NMNIST 和 DVS Gesture 数据集上分别达到了 98.71%、100.0% 和 99.09% 的分类准确率。此外，使用简化的个体模型即可实现这一性能，集成中包含的参数不到已发表参考模型的 50%。我们全面探索了脉冲序列解释方法的影响，并推导了组合模型预测的理论方法，从而保证脉冲集成的性能提升。为此，我们将脉冲神经网络形式化为 GLM 预测器，并为其目标域确定了一种合适的表示。此外，我们展示了如何使用 Ambiguity Decomposition 来衡量脉冲集成的多样性。这项工作表明，集成如何克服构建可与传统深度神经网络竞争的个体 SNN 模型所面临的挑战，并创建了具有更少可训练参数和更小内存占用的系统，为低功耗边缘应用（如在神经形态硬件上实现）打开了大门。
引用
@article{arxiv.2010.14619,
title = {Ensembles of Spiking Neural Networks},
author = {Georgiana Neculae and Oliver Rhodes and Gavin Brown},
journal= {arXiv preprint arXiv:2010.14619},
year = {2021}
}
备注
16 pages, 3 tables, 5 figures