深度学习革命及其对计算机体系结构与芯片设计的影响

Jeffrey Dean

深度学习革命及其对计算机体系结构与芯片设计的影响

机器学习 2019-11-14 v1 硬件体系结构机器学习

作者: Jeffrey Dean

摘要

过去十年中，机器学习尤其是基于人工神经网络的深度学习方法取得了一系列显著进展，提升了我们在计算机视觉、语音识别、语言翻译和自然语言理解任务等广泛领域构建更精确系统的能力。本文是2020年国际固态电路会议（ISSCC）主题演讲的配套论文，讨论了机器学习的一些进展，以及它们对我们所需构建的计算设备类型（尤其是在后摩尔定律时代）的影响。本文还讨论了机器学习可能在哪些方面有助于电路设计过程的某些环节。最后，本文勾勒了至少一条有趣的方向，即构建比当今机器学习模型具有更大规模、稀疏激活并采用更多基于样本与任务的动态路由的多任务模型。

关键词

深度学习计算机体系结构芯片设计电路设计多任务模型稀疏激活动态路由后摩尔定律时代

引用

@article{arxiv.1911.05289,
  title  = {The Deep Learning Revolution and Its Implications for Computer Architecture and Chip Design},
  author = {Jeffrey Dean},
  journal= {arXiv preprint arXiv:1911.05289},
  year   = {2019}
}

备注

Companion paper to accompany a keynote talk at ISSCC 2020

深度学习革命及其对计算机体系结构与芯片设计的影响

摘要

关键词

引用

备注

相关论文