深度学习如何工作——深度学习的几何结构
机器学习
2017-10-31 v1 机器学习
摘要
为何以及深度学习如何在不同任务上表现良好，在理论视角下仍是一个谜。在本文中，我们通过寻找深度学习的类比与两种已有的几何结构——量子计算的几何与微分同胚模板匹配的几何——来描绘深度学习系统的几何图景。在此框架下，我们给出了不同深度学习系统的几何结构，包括卷积神经网络、残差网络、递归神经网络、循环神经网络以及平衡传播框架。我们还可以在算法层面分析几何结构与其不同网络性能之间的关系，从而几何框架可指导深度学习系统结构与算法的设计。
引用
@article{arxiv.1710.10784,
title = {How deep learning works --The geometry of deep learning},
author = {Xiao Dong and Jiasong Wu and Ling Zhou},
journal= {arXiv preprint arXiv:1710.10784},
year = {2017}
}
备注
16 pages, 13 figures