具有相关变异性的神经流形的线性分类
神经元与认知
2023-07-17 v2 无序系统与神经网络
统计力学
神经与进化计算
机器学习
摘要
理解神经活动的统计和几何性质如何与性能相关，是理论神经科学和深度学习中的一个关键问题。在这里，我们计算了对象表示之间的相关性如何影响容量（即线性可分性的度量）。我们表明，对于球形对象流形，在质心之间引入相关性有效地将球体推得更近，而在轴之间引入相关性有效地缩小了它们的半径，揭示了关于分类问题的相关性与几何之间的对偶性。然后，我们应用我们的结果来准确估计深度网络数据的容量。
引用
@article{arxiv.2211.14961,
title = {Linear Classification of Neural Manifolds with Correlated Variability},
author = {Albert J. Wakhloo and Tamara J. Sussman and SueYeon Chung},
journal= {arXiv preprint arXiv:2211.14961},
year = {2023}
}
备注
6 pages and 5 figures in main text. 13 pages and 1 figure in supplementary material