利用驱动人工智能革命的硬件/软件优化与生态系统
机器学习
2022-08-05 v1 计算机视觉与模式识别
摘要
本文对如何架构、设计和优化深度神经网络(DNNs)以提升性能并保持精度进行了前沿综述。论文涵盖了一组跨越整个机器学习处理流水线的优化方法。我们介绍了两类优化。第一类改变DNN模型并需要神经网络重训练,而第二类则不需要。我们聚焦于GPU优化,但相信所提出的技术可用于其他AI推理平台。为展示DNN模型优化,我们在流行的边缘AI推理平台(Nvidia Jetson AGX Xavier)上改进了用于光流的最先进深度网络架构之一RAFT(arXiv:2003.12039)。
引用
@article{arxiv.2208.02808,
title = {Leveraging the HW/SW Optimizations and Ecosystems that Drive the AI Revolution},
author = {Humberto Carvalho and Pavel Zaykov and Asim Ukaye},
journal= {arXiv preprint arXiv:2208.02808},
year = {2022}
}
备注
8 pages, 3 figures