中文

面向Loihi的直推式脉冲图神经网络

新兴技术 2024-04-29 v1 机器学习 神经与进化计算

摘要

图神经网络已成为深度学习的一个专门分支,旨在解决对象间的成对关系至关重要的问题。最近的进展利用图卷积神经网络来提取图结构内的特征。尽管取得了有希望的结果,但由于特征稀疏导致资源利用效率低下,这些方法在实际应用中面临挑战。最近的研究从哺乳动物大脑中汲取灵感,采用脉冲神经网络来建模和学习图结构。然而,这些方法局限于传统的基于冯·诺依曼的计算系统,仍然面临硬件效率低下的问题。在本研究中,我们提出了一种专为Loihi 2设计的脉冲图神经网络的全神经形态实现。我们使用Lava Bayesian Optimization(一种与神经形态计算架构兼容的新型超参数优化系统)来优化网络参数。我们展示了在引文图分类任务中,将神经形态贝叶斯优化与我们的方法相结合并使用定精度脉冲神经元所带来的性能优势。我们的结果证明了整数精度、兼容Loihi 2的脉冲神经网络在执行引文图分类时,能够达到与现有浮点实现相当的准确率。

关键词

引用

@article{arxiv.2404.17048,
  title  = {Transductive Spiking Graph Neural Networks for Loihi},
  author = {Shay Snyder and Victoria Clerico and Guojing Cong and Shruti Kulkarni and Catherine Schuman and Sumedh R. Risbud and Maryam Parsa},
  journal= {arXiv preprint arXiv:2404.17048},
  year   = {2024}
}

备注

6 pages, 4 figures, 3 tables