Shisha：异构架构上 CNN 流水线的在线调度
性能
2022-12-06 v2 机器学习
摘要
小芯片（Chiplets）已成为现代芯片设计中的常用方法。小芯片提高了良率，并在核、内存子系统和互连层面实现了异构性。卷积神经网络（CNNs）由于权重数量日益庞大，具有高计算、高带宽和高内存容量的需求。因此，为充分利用基于小芯片的架构，必须从调度和计算资源间工作负载分配方面对 CNN 进行优化。我们提出 Shisha，一种在小芯片架构上生成并调度并行 CNN 流水线的在线方法。Shisha 针对计算性能和内存带宽的异构性，通过快速在线探索技术调整流水线调度。我们将 Shisha 与模拟退火、爬山法和 Pipe-Search 进行比较。平均而言，Shisha 的收敛时间比其他探索算法改善约 35 倍。尽管探索迅速，Shisha 的解通常优于其他启发式探索算法。
引用
@article{arxiv.2202.11575,
title = {Shisha: Online scheduling of CNN pipelines on heterogeneous architectures},
author = {Pirah Noor Soomro and Mustafa Abduljabbar and Jeronimo Castrillon and Miquel Pericàs},
journal= {arXiv preprint arXiv:2202.11575},
year = {2022}
}