中文

Arcee:用于生成式视觉建模的可微分循环状态链

计算机视觉与模式识别 2025-11-18 v2

摘要

状态空间模型(State-space models, SSMs),尤其是Mamba,日益被用于长序列建模,提供基于输入依赖的因果选择扫描操作实现线性时间聚合。沿着这一思路,近期的“Mamba-for-vision”变体大致探索了多种扫描顺序,以放宽对非序列信号(如图像)的严格因果性。然而,传统Mamba选择性扫描操作的表述会在每个块的状态空间动力学从零重新初始化,从而丢弃前一块的终端状态空间表示(terminal state-space representation, SSR)。Arcee是一种跨块循环状态链,复用每个块的终端状态空间表示作为下一个块的初始条件。跨块传递构建为可微分边界映射,其雅可比矩阵使终端边界上的端到端梯度流成为可能。实用性的关键在于,Arcee与所有先前的“vision-mamba”变体兼容,无需额外参数,且开销恒定且可忽略。从建模角度看,我们将终端SSR视为由对输入的因果遍历所引入的温和方向性先验,而非非序列信号本身的估计器。为量化影响,我们针对CelebA-HQ(256×256)上无条件生成任务(使用Flow Matching),在单个扫描顺序Zigzag Mamba基线上将FID下降至15.33(原为82.81,降低5.4倍)。高效CUDA内核和训练代码将公开,以支持严格且可重复的研究。

关键词

引用

@article{arxiv.2511.11243,
  title  = {Arcee: Differentiable Recurrent State Chain for Generative Vision Modeling with Mamba SSMs},
  author = {Jitesh Chavan and Rohit Lal and Anand Kamat and Mengjia Xu},
  journal= {arXiv preprint arXiv:2511.11243},
  year   = {2025}
}