基于曲率的两种神经网络比较
机器学习
2018-01-23 v1 计算机视觉与模式识别
摘要
本文通过比较两个深度神经网络各自全连接层中由激活向量组成的流形,展示了它们的异同。本文的主要贡献包括:1)一种对确定流形维数至关重要的新数据生成算法;2)一种系统性的流形比较策略。特别地,我们取黎曼曲率与截面曲率作为判据的一部分,其能反映流形的内在几何性质。给出了一些有趣的结果与现象,有助于明确两网络所提取特征的异同,并揭示深度神经网络的内在机制。
引用
@article{arxiv.1801.06801,
title = {Curvature-based Comparison of Two Neural Networks},
author = {Tao Yu and Huan Long and John E. Hopcroft},
journal= {arXiv preprint arXiv:1801.06801},
year = {2018}
}