传统稀疏优化在迁移线程架构上的影响

由于不规则的访问模式和弱局部性，为稀疏应用实现高性能具有挑战性。这些特性排除了许多静态优化，并降低了传统系统上的缓存性能。为应对这些挑战，已提出如 Emu 架构等新颖系统。Emu 设计使用轻量级迁移线程、窄内存和近内存处理能力来解决弱局部性并减少内存系统的总负载。由于 Emu 架构与基于缓存的层次内存系统有根本不同，理解标准稀疏算法优化在 Emu 硬件上的成本收益权衡至关重要。在这项工作中，我们探索 Emu 架构上的稀疏矩阵-向量乘法（SpMV）。我们研究了不同稀疏优化的影响，如稠密向量数据布局、工作分布和矩阵重排序。我们的研究发现，由于 Emu 线程的迁移特性，最初在整个系统上均匀分配工作不足以随时间维持负载平衡。在严重情况下，矩阵稀疏模式会产生热点，因为许多迁移线程汇聚到单一资源上。我们证明已知的矩阵重排序技术可通过促进更一致的负载平衡，将 Emu 架构上的 SpMV 性能提高多达 70%。相比之下，在基于缓存内存的系统上性能提升不超过 16%。