注意力脉冲神经网络:高效遥感图像超分辨率中的脉冲遇上注意力
计算机视觉与模式识别
2025-10-10 v3
摘要
脉冲神经网络(SNN)正成为传统人工神经网络(ANN)的有前景的替代方案,提供生物学上的合理性和能源效率。尽管如此,SNN常受限于其容量不足和表示力不足,然而在遥感图像超分辨率(SR)任务中仍鲜有探索。本文首先观察到,脉冲信号在不同纹理之间呈现出剧烈的强度变化,凸显神经元的主动学习状态。这一观察激励我们将SNN应用于遥感图像的高效超分辨率。灵感来自注意力机制在表示显著信息方面的成功,我们设计了脉冲注意力模块(SAB),是一个简洁而有效的组件,通过推断注意力权重优化膜电位,从而调节脉冲活动以实现更优的特征表示。我们的关键贡献包括:1)我们桥接了时间维度和通道维度之间的独立调制,促进联合特征相关性学习,2)我们访问大规模遥感图像中的全局自相似模式,以推断空间注意力权重,纳入有效的先验知识以实现真实可信的重建。基于SAB,我们提出了SpikeSR,在各种遥感基准测试(如AID、DOTA和DIOR)上实现了最先进的性能,同时保持高计算效率。SpikeSR的代码将在 https://github.com/XY-boy/SpikeSR 获取。
引用
@article{arxiv.2503.04223,
title = {Spiking Meets Attention: Efficient Remote Sensing Image Super-Resolution with Attention Spiking Neural Networks},
author = {Yi Xiao and Qiangqiang Yuan and Kui Jiang and Wenke Huang and Qiang Zhang and Tingting Zheng and Chia-Wen Lin and Liangpei Zhang},
journal= {arXiv preprint arXiv:2503.04223},
year = {2025}
}
备注
Accepted by NeurIPS 2025