中文

谱谱守护:检测状态空间模型中的记忆坍塌攻击

机器学习 2026-03-16 v1 密码学与安全

摘要

状态空间模型(SSMs)如 Mamba 通过输入依赖的递归机制实现线性时间序列处理,但该机制引入了关键的安全漏洞。我们指出,离散化迁移算子的谱半径 ρ(Aˉ)\rho(\bar{A}) 决定了有效记忆时程:当对手通过基于梯度的隐藏状态投毒驱动 ρ\rho 趋近于零时,记忆从数百万个标记降至仅几十个,却在不触发输出层警报的情况下悄然破坏推理能力。我们证明了躲避存在定理,表明对于任何仅依赖输出的防御,都存在对抗输入能够同时诱发谱系坍塌并规避检测。随后我们引入 SpectralGuard,一种实时监控器,通过追踪所有模型层的谱系稳定性来实现检测。SpectralGuard 在非自适应攻击者下实现 F1=0.961,在最强自适应设置下保持 F1=0.842,延迟仅为15毫秒/标记。因果干预和对混合 SSM-Attention 系统的跨架构迁移验证表明,谱系监控为循环基座模型提供了原则且可部署的安全层。

关键词

引用

@article{arxiv.2603.12414,
  title  = {SpectralGuard: Detecting Memory Collapse Attacks in State Space Models},
  author = {Davi Bonetto},
  journal= {arXiv preprint arXiv:2603.12414},
  year   = {2026}
}

备注

24 pages, 10 figures. Code, dataset, and demo: https://github.com/DaviBonetto/spectralguard