中文

Overmind NSA:具有近似非线性激活与抢占式内存旁路的统一神经符号计算架构

硬件体系结构 2026-04-20 v1

摘要

神经符号 AI 因其能够将感知与结构化推理相结合,在大语言模型、科学发现和自主系统等领域正获得越来越多的关注。然而,其部署常常受到高内存需求、多样化计算模式以及复杂硬件要求的制约。现有的硬件平台面临着片上内存开销大、流水线停顿频繁、I/O 带宽有限以及非线性操作处理效率低下等问题。为了解决这些关键的计算瓶颈,我们提出了 Overmind,一种具备跨层优化的统一神经符号架构。Overmind 通过用于通用非线性函数的 Padé 近似、消除昂贵片上缓存的抢占式内存旁路,以及优化模型部署的完整软件栈来解决这些核心瓶颈。通过重新配置用于近似非线性函数的 Padé 阶数,我们还展示了自适应的精度-性能缩放。Overmind 实现了 8.1 TOPS/W 的能效和 410 GOPS 的吞吐量,且在处理混合神经符号工作负载时模型精度损失极小。与现有解决方案相比,Overmind 以显著更少的硬件资源提升了性能和效率。

关键词

引用

@article{arxiv.2604.15623,
  title  = {Overmind NSA: A Unified Neuro-Symbolic Computing Architecture with Approximate Nonlinear Activations and Preemptive Memory Bypass},
  author = {Weilun Wang and Zirui Wang and Wantong Li},
  journal= {arXiv preprint arXiv:2604.15623},
  year   = {2026}
}

备注

Accepted to DAC 2026