中文

模型与大脑相似性得分的可微优化

神经元与认知 2024-12-31 v3 机器学习

摘要

我们如何判断两个系统——生物或人工——是否以类似方式处理信息?线性回归、中心化核对齐(CKA)、归一化布鲁斯相似性(NBS)和角度Procrustes距离等相似性度量常用于量化这种相似性。然而,目前尚不清楚高相似性得分的驱动因素,甚至不清楚何为"良好"得分。本文引入了一种新工具,通过对相似性度量进行可微分,以直接最大化得分。令人惊讶的是,我们发现高相似性得分并不保证编码任务相关信息的方式符合神经数据;这在CKA乃至某些交叉验证和正则化线性回归变体中尤为突出。我们发现不存在一致的良好相似性得分阈值——它取决于该度量和数据集。此外,针对最大化相似性得分的合成数据集,初始学习的是目标数据集的最高方差主成分,但诸如角度Procrustes等方法比CKA等方法更早地捕获了较低方差维度。为此,我们对CKA、角度Procrustes和NBS对主成分维度方差的敏感性进行了数学推导,解释了CKA对高方差成分的侧重。最后,通过联合优化多种相似性度量,我们刻画了其可允许的范围,揭示了某些相似性度量的约束性更强。尽管当前的度量似乎提供了一种直截了当的方式来量化神经系统之间的相似性,但我们的工作强调了对结果的谨慎解读之重要性。我们希望我们开发的工具将被实践者用于更好地理解当前和未来的相似性度量。

关键词

引用

@article{arxiv.2407.07059,
  title  = {Differentiable Optimization of Similarity Scores Between Models and Brains},
  author = {Nathan Cloos and Moufan Li and Markus Siegel and Scott L. Brincat and Earl K. Miller and Guangyu Robert Yang and Christopher J. Cueva},
  journal= {arXiv preprint arXiv:2407.07059},
  year   = {2024}
}

备注

20 pages, 12 figures