面向异构多片堆PIM AI 工作负载的热感知多目标调度框架——THERMOS
硬件体系结构
2025-08-15 v1
摘要
片式集成使大规模系统能够组合多种技术，实现更高的产量、更低的成本和可扩展性，使其特别适合AI工作负载。处理器内存储(PIM)已成为AI推断的有前景解决方案，利用ReRAM、SRAM和FeFET等技术，每种技术都具有独特的优势和权衡。异构片式PIM架构可以发挥这些技术的互补优势，以实现更高的性能和能源效率。然而，由于竞争性性能目标、动态工作负载特征以及功率和热约束，跨越此类异构系统调度AI工作负载颇具挑战性。为此，我们提出了THERMOS——一个面向异构多片堆PIM架构上AI工作负载的热感知、多目标调度框架。THERMOS训练单个多目标强化学习(MORL)策略，能够在运行时实现针对目标偏好的Pareto最优执行时间、能耗或平衡目标。综合评估显示，THERMOS相对于基线AI工作负载调度算法实现了最高89%的平均执行时间加速和57%的平均能耗降低，仅引入0.14%的运行时开销和0.022%的能耗开销。
引用
@article{arxiv.2508.10691,
title = {THERMOS: Thermally-Aware Multi-Objective Scheduling of AI Workloads on Heterogeneous Multi-Chiplet PIM Architectures},
author = {Alish Kanani and Lukas Pfromm and Harsh Sharma and Janardhan Rao Doppa and Partha Pratim Pande and Umit Y. Ogras},
journal= {arXiv preprint arXiv:2508.10691},
year = {2025}
}
备注
Paper accepted at ESWEEK 2025 (CODES+ISSS) conference