利用任务依赖的神经流形探测生物与人工神经网络
神经元与认知
2023-12-25 v1 机器学习
神经与进化计算
摘要
最近,我们对生物和人工神经网络中执行计算的理解的增长,主要由低层机制研究或全局规范方法驱动。然而,弥合这些抽象层次之间差距的具体方法仍然难以捉摸。在这项工作中,我们通过神经群体几何的视角研究神经网络的内部机制,旨在提供中间抽象层次的理解,以此作为弥合这一差距的途径。利用来自统计物理的流形容量理论(manifold capacity theory, MCT)和来自高维统计的流形对齐分析(manifold alignment analysis, MAA),我们探测了深度神经网络和猕猴神经记录中任务依赖流形的底层组织。具体而言,我们定量表征了不同的学习目标如何导致这些模型组织策略的差异,并展示了这些几何分析如何与任务相关信息的可解码性联系起来。这些分析为通过神经群体几何弥合神经网络中的机制理论和规范理论提供了强有力的方向, potentially 为机器学习和神经科学开辟了许多未来的研究途径。
引用
@article{arxiv.2312.14285,
title = {Probing Biological and Artificial Neural Networks with Task-dependent Neural Manifolds},
author = {Michael Kuoch and Chi-Ning Chou and Nikhil Parthasarathy and Joel Dapello and James J. DiCarlo and Haim Sompolinsky and SueYeon Chung},
journal= {arXiv preprint arXiv:2312.14285},
year = {2023}
}
备注
To appear in the proceedings of the Conference on Parsimony and Learning (CPAL) 2024