我们能信赖 LLM 在亚存储器上吗？探究非理想情况下的推理能力
计算与语言
2026-03-17 v1
摘要
基于亚存储器的模拟计算-存储（CIM）架构为大型语言模型（LLM）的高效部署提供了可前景的 substrate，由于其优异的能源效率和计算密度。然而，这些架构因亚存储器的固有 non-idealities 而受到精度问题的制约。本文首先全面调查此类典型 non-idealities 对 LLM 推理能力的影响。经验结果表明，推理能力显著下降，但对不同基准而言存在差异。随后，我们系统评估了三种无训练策略，包括思考模式、基于情境学习和模块冗余。我们总结出有价值的指南，即浅层冗余对于提高鲁棒性尤其有效，思考模式在低噪声水平下表现更好，但在高噪声情况下会恶化，而基于情境学习可缩短输出长度，同时以轻微的性能代价为代价。我们的发现为 LLM 在非理想情况下的推理提供了新视角，并提供了实用策略以提高鲁棒性。
引用
@article{arxiv.2603.13725,
title = {Can We Trust LLMs on Memristors? Diving into Reasoning Ability under Non-Ideality},
author = {Taiqiang Wu and Yuxin Cheng and Chenchen Ding and Runming Yang and Xincheng Feng and Wenyong Zhou and Zhengwu Liu and Ngai Wong},
journal= {arXiv preprint arXiv:2603.13725},
year = {2026}
}
备注
7 figures, 3 tables