通过有效维数探讨脉冲变换器理论与实践之间的差距

脉冲变换器在 neuromorphic 硬件上实现了 $38$-$57\times$ 的能源效率优势，性能与常规变换器相当，但尚无理论框架指导其设计。本文首次为脉冲自注意力建立完整的表达性理论。我们证明，带有漏积积分-发放 (LIF) 神经元的脉冲注意力是连续置换等变函数的通用逼近器，提供显式的脉冲电路构建，包括一种 novel 横向抑制网络，用于 Softmax 正规化，证明其 $O(1/\sqrt{T})$ 收敛。我们通过率失真理论导出紧密的脉冲计数下界：$\varepsilon$ 近似需要 $\Omega(L_f^2 nd/\varepsilon^2)$ 个脉冲，并给出严格的信息论推导。我们的关键洞见是使用测量的有效维数 ($d_{\text{eff}}=47$--$89$ 用于 CIFAR/ImageNet) 给出输入依赖的下界，解释为何尽管最坏情况 $T \geq 10{,}000$ 预测，$T=4$ 个时间步即可实现。我们提供具体的设计规则，给出校准常数 ($C=2.3$，95% 置信区间: $[1.9, 2.7]$)。在 Spikformer、QKFormer 和 SpikingResformer 上的实验，覆盖视觉和语言基准，验证了预测的 $R^2=0.97$ ($p<0.001$)。我们的框架为 neuromorphic 变换器设计提供了首个原则性基础。