Skyline:面向深度神经网络训练的交互式编辑器内计算性能剖析工具
人机交互
2020-08-21 v2 机器学习
软件工程
摘要
训练最先进的深度神经网络(DNN)是一个计算昂贵且耗时的过程,这促使深度学习开发者对其DNN的计算性能进行调试。然而,有效进行此类调试需要深入了解底层软件和硬件系统——这是典型的深度学习开发者可能不具备的。为弥补这一差距,我们提出Skyline:一种支持编辑器内计算性能剖析、可视化和调试的DNN训练交互式新工具。Skyline的关键贡献在于利用DNN训练的特殊计算性质,提供(i)交互式性能预测与可视化,以及(ii)可直接操作的、拖动时修改代码中批量大小的可视化。作为编辑器内工具,Skyline允许用户利用这些诊断功能在开发过程中调试其DNN的性能。一项针对Skyline的探索性定性用户研究取得了有前景的结果;所有参与者均认为Skyline有用且易于使用。
引用
@article{arxiv.2008.06798,
title = {Skyline: Interactive In-Editor Computational Performance Profiling for Deep Neural Network Training},
author = {Geoffrey X. Yu and Tovi Grossman and Gennady Pekhimenko},
journal= {arXiv preprint arXiv:2008.06798},
year = {2020}
}
备注
14 pages, 5 figures. Appears in the proceedings of UIST'20