在忆阻器硬件上运行常规自动语音识别：一种模拟方法
机器学习
2025-06-02 v1 硬件体系结构
新兴技术
摘要
基于忆阻器的硬件通过提供模拟存内矩阵乘法，为节能机器学习 (ML) 提供了新的可能性。当前的硬件原型无法容纳大型神经网络，相关文献仅涵盖用于 MNIST 或单词识别等任务的小型 ML 模型。模拟可用于探索硬件属性如何影响更大的模型，但现有软件假设的是简化的硬件。我们提出了一个基于 PyTorch 的库，基于“Synaptogen”来模拟神经网络执行，并准确捕获忆阻器硬件属性。我们首次以在语音识别任务 TED-LIUMv2 上训练的 Conformer 为例，展示了具有数百万参数的 ML 系统在忆阻器硬件上的行为表现。通过调整的量化感知训练，当使用 3 位权重精度通过模拟模拟计算执行线性操作时，我们将词错误率的相对退化限制在 25%。
引用
@article{arxiv.2505.24721,
title = {Running Conventional Automatic Speech Recognition on Memristor Hardware: A Simulated Approach},
author = {Nick Rossenbach and Benedikt Hilmes and Leon Brackmann and Moritz Gunz and Ralf Schlüter},
journal= {arXiv preprint arXiv:2505.24721},
year = {2025}
}
备注
Accepted for the Blue Sky track at Interspeech 2025