中文

面向能源效率计算的脉冲扩散模型:基于 Transformer 的 SDiT 架构

偏微分方程分析 2024-02-27 v2

摘要

脉冲神经网络 (SNN) 具有低功耗和生物可解释性特征,被视为具有巨大潜力的能源效率计算方法。然而,SNN 在图像生成任务中的探索仍非常有限,尚未提出统一且有效的 SNN 生成模型结构。本文探索了脉冲神经网络中的一种新型扩散模型架构。我们利用 Transformer 替代主流扩散模型中常用的 U-net 结构。它能够在相对较低的计算成本和较短的采样时间下生成更高质量的图像。旨在为基于 SNN 的生成模型研究提供经验基准。在 MNIST、Fashion-MNIST 和 CIFAR-10 数据集上的实验表明,我们的工作在与现有 SNN 生成模型相比时具有高度竞争力。

关键词

引用

@article{arxiv.2402.11587,
  title  = {Asymptotic behavior of 3-D evolutionary model of Magnetoelasticity for small data},
  author = {Xiaonan Hao and Jiaxi Huang and Ning Jiang and Lifeng Zhao},
  journal= {arXiv preprint arXiv:2402.11587},
  year   = {2024}
}

备注

32 pages