通过可视化理解用于模型部署的自动调度优化
人机交互
2023-08-10 v1
摘要
在完成设计与训练阶段后，将深度学习模型部署至特定硬件方可实际应用。须有针对性地进行优化，以降低推理延迟、提升模型性能。自动调度作为一种提供多种优化选项的自动化技术，被证明是大规模自动部署的可行方案。然而，自动调度所生成的底层代码近似硬件编码，可能阻碍人工理解并妨碍手动优化。在这项进行中的研究中，我们旨在开发一种增强型可视化，以有效应对与自动调度相关的海量性能剖析指标。该可视化将阐明复杂的调度过程，从而借助调度所得洞见推动延迟优化的进一步进展。
引用
@article{arxiv.2308.04724,
title = {Understanding Auto-Scheduling Optimizations for Model Deployment via Visualizations},
author = {Laixin Xie and Chenyang Zhang and Ruofei Ma and Xing Jiang and Xingxing Xing and Wei Wan and Quan Li},
journal= {arXiv preprint arXiv:2308.04724},
year = {2023}
}
备注
Accepted by IEEE VIS 2023 Poster Track