作为神经网络性能拓扑摘要的激活景观
机器学习
2022-05-09 v1 代数拓扑
摘要
我们利用拓扑数据分析（TDA）研究数据在深度神经网络（DNN）逐层传递过程中的变换。我们计算网络每一层激活数据的持续同调，并使用持续景观对该信息进行摘要。所得特征图既提供了对网络的信息化可视化，也提供了用于统计分析和机器学习的核。我们观察到拓扑复杂度常随训练而增加，且拓扑复杂度并不随每层递减。
引用
@article{arxiv.2110.10136,
title = {Activation Landscapes as a Topological Summary of Neural Network Performance},
author = {Matthew Wheeler and Jose Bouza and Peter Bubenik},
journal= {arXiv preprint arXiv:2110.10136},
year = {2022}
}
备注
4 pages, 5 figures