面向能效科学机器学习的混合可变脉冲图神经网络
机器学习
2024-12-13 v1
摘要
针对计算力学相关数据集中涉及不规则域或材料分子结构等问题的图表示，深度学习提供的图神经网络（GNN）利用消息传递技术构建网络结构。然而，随着图的规模增大和/或GNN架构日益复杂，深度学习模型的能耗预算增加，限制了其在边缘计算等应用场景的可行性。为此，本文提出混合可变脉冲图神经网络（HVS-GNN），在网络结构中集成可变脉冲神经元（VSN），以促进稀疏通信，降低总体能耗。虽然VSN通过稀疏事件驱动计算实现能耗降低，同时在计算力学应用中常见的回归任务中也表现良好，这也是本文所关注的主要目标。我们展示了三个实例，分别针对基于微观/中尺度结构预测材料力学性能的回归任务来测试所提出HVS-GNN的性能。我们还将HVS-GNN架构与基础GNN和采用抡头积分-放电神经元的GNN进行性能比较。结果表明，HVS-GNN在回归任务中表现良好，同时实现了稀疏通信和能源效率的提升。
引用
@article{arxiv.2412.09379,
title = {Hybrid variable spiking graph neural networks for energy-efficient scientific machine learning},
author = {Isha Jain and Shailesh Garg and Shaurya Shriyam and Souvik Chakraborty},
journal= {arXiv preprint arXiv:2412.09379},
year = {2024}
}