基于STT-RAM的分层存储器内计算

存储器内计算旨在通过在存储器中直接执行计算来克服计算机系统中的von Neumann瓶颈。先前的研究表明，使用轮转存储器（STT-RAM）进行存储器内计算是可行的，因为其非易失性、低泄漏功耗、高密度、耐久性以及商业可行性。本文探讨了分层存储器内计算，其中存储器层级的不同部分都增添了处理单元，以优化工作负载执行。本文针对使用非易失性STT-RAM进行存储器内计算（PiM）和使用具有放宽保持特性的易失性STT-RAM进行存储器内缓存计算（PiC）进行了调查，这有助于缓解STT-RAM的写入延迟和能耗开销。我们分析了数据移动导致的PiC与写入开销导致的PiM之间的权衡与开销，适用于各种工作负载。我们检讨了工作负载特征，如计算密集度以及CPU依赖且指令级并行性有限的工作负载，其对PiC/PiM权衡的影响。使用这些工作负载，我们评估了在不同缓存层级上使用STT-RAM与SRAM进行计算，并探讨了使用各种保持时间的异构STT-RAM缓存架构进行PiC和基于CPU的计算的潜力。我们的实验结果表明，针对特定工作负载，基于STT-RAM的PiC相对于PiM具有显著优势。最后，我们描述了分层存储器内计算架构中存在的开放性研究问题，以进一步提升这一范式。