中文

面向IMC阵列的行列混合分组:容错多位权重表示

硬件体系结构 2025-08-22 v1 人工智能

摘要

本文解决了模拟存储计算(IMC)系统中两个关键限制可扩展性和可部署性的挑战:由粘滞故障(SAFs)引起的计算不可靠性,以及现有容错缓解算法(如Fault-Free(FF))的高编译开销。为克服这些限制,我们首先提出一种新型多位权重表示技术,称为行列混合分组,该方法将常规列分组推广为在行和列上引入冗余。这种结构冗余增强了容错能力,可与现有的容错缓解方案有效结合。其次,我们设计了编译管道,将容错感知的权重分解问题重新表述为整数线性规划(ILP)任务,借助成熟求解器实现快速可扩展的编译。通过理论洞见识别易于平凡解的故障模式,进一步加速计算。在卷积网络和小型语言模型上的实验结果表明,我们的方法在准确率提升最高可达8%p,编译速度提升150倍,能源效率提升2倍,均优于现有基线方法。

关键词

引用

@article{arxiv.2508.15685,
  title  = {Row-Column Hybrid Grouping for Fault-Resilient Multi-Bit Weight Representation on IMC Arrays},
  author = {Kang Eun Jeon and Sangheum Yeon and Jinhee Kim and Hyeonsu Bang and Johnny Rhe and Jong Hwan Ko},
  journal= {arXiv preprint arXiv:2508.15685},
  year   = {2025}
}

备注

Accepted to appear at ICCAD'25 (Munich, Germany)