全脉冲去噪扩散隐式模型
计算机视觉与模式识别
2023-12-05 v1
摘要
脉冲神经网络(SNN)因能够在神经形态设备上以超高速度和卓越能效运行而备受关注。SNN 可用于传统的基于神经网络的耗时耗能应用。然而,尽管 SNN 具有优势,其生成模型的研究仍然有限。特别是,扩散模型是一类强大的生成模型,其图像生成质量超过 GAN 等其他生成模型。然而,由于其迭代去噪特性,扩散模型的特点是计算成本高和推理时间长。因此,我们提出了一种新方法——全脉冲去噪扩散隐式模型(FSDDIM),以在 SNN 内构建扩散模型,并通过突触电流学习(SCL)利用 SNN 的高速和低能耗特性。SCL 填补了这一空白:扩散模型使用神经网络来估计预定义概率分布的实值参数,而 SNN 输出二值脉冲序列。SCL 使我们能够完全使用 SNN 完成扩散模型的整个生成过程。我们证明所提出的方法优于 SOTA 的全脉冲生成模型。
引用
@article{arxiv.2312.01742,
title = {Fully Spiking Denoising Diffusion Implicit Models},
author = {Ryo Watanabe and Yusuke Mukuta and Tatsuya Harada},
journal= {arXiv preprint arXiv:2312.01742},
year = {2023}
}