神经预测与对齐的谱理论
神经元与认知
2023-12-13 v2 人工智能
摘要
神经网络的表征常通过与生物系统测量的响应之间进行回归,来与生物系统的表征作比较。许多不同的最先进深度神经网络能产生相似的神经预测,但如何区分那些在预测神经响应上表现同样出色的模型仍不清楚。为获得对此的洞见,我们采用了一个近期理论框架,该框架将回归的泛化误差与模型和目标的光谱性质相关联。我们将该理论应用于模型激活与神经响应之间的回归,并根据模型特征谱、模型特征向量与神经响应的对齐程度以及训练集大小来分解神经预测误差。利用此分解,我们引入几何度量来解释神经预测误差。我们测试了大量预测视觉皮层活动的深度神经网络,表明存在多种几何类型可通过回归测得较低的神经预测误差。该工作表明,仔细分解表征度量能够提供模型如何捕捉神经活动的可解释性,并为改进神经活动模型指明方向。
引用
@article{arxiv.2309.12821,
title = {A Spectral Theory of Neural Prediction and Alignment},
author = {Abdulkadir Canatar and Jenelle Feather and Albert Wakhloo and SueYeon Chung},
journal= {arXiv preprint arXiv:2309.12821},
year = {2023}
}
备注
First two authors contributed equally. NeurIPS 2023