硬件感知机器学习：建模与优化
机器学习
2018-09-17 v1 机器学习
摘要
深度学习(DL)应用的最新突破使DL模型成为几乎每个现代计算系统中的关键组件。部署在广泛平台上的DL应用日益流行，引发了大量与硬件本身所引入约束相关的设计挑战。由深度神经网络(DNN)做出的推理的延迟或能耗成本是多少？是否有可能在模型训练前预测该延迟或能耗？如果可以，机器学习者如何利用这些模型来设计用于部署的硬件最优DNN？从延长移动设备电池寿命到减少在云端执行的DL模型的运行时间需求，这些问题的答案已引起显著关注。无法对未恰当建模之物进行优化。因此，在训练模型之前，理解DL模型在服务推理时的硬件效率十分重要。这一关键观察促使人们使用预测模型来捕捉DL应用的硬件性能或能效。此外，DL从业者面临设计DNN模型即调整DNN架构超参数的任务，同时需优化DL模型的准确性与其硬件效率。因此，最先进的方法已提出硬件感知超参数优化技术。在本文中，我们对面向DL应用的硬件感知建模与优化的最先进工作及精选结果进行了全面评估。我们还强调了若干开放问题，随着DL应用持续对相关硬件系统与平台产生重大影响，这些问题势必在今后几年催生新颖的硬件感知设计。
引用
@article{arxiv.1809.05476,
title = {Hardware-Aware Machine Learning: Modeling and Optimization},
author = {Diana Marculescu and Dimitrios Stamoulis and Ermao Cai},
journal= {arXiv preprint arXiv:1809.05476},
year = {2018}
}
备注
ICCAD'18 Invited Paper