用于神经网络模型搜索的神经生物学评估指标
计算机视觉与模式识别
2018-11-28 v4
摘要
神经科学理论假定,大脑的视觉系统通过神经激活模式粗略识别宽泛的物体类别,相似物体产生相似的神经响应。人工神经网络也对刺激具有内部激活行为。我们假设,表现出类脑激活行为的网络将展示类脑特征,例如更强的泛化能力。本文中我们引入人-模型相似度(HMS)指标,量化人类 fMRI 与网络激活行为的相似度。为计算 HMS,我们创建表征不相似矩阵(RDMs)作为激活行为的抽象,由对刺激对的激活相关性度量。HMS 即为所有刺激对上 fMRI RDM 与神经网络 RDM 之间的相关性。我们在一个大规模超参数范围内对该指标在无监督预测编码网络上测试并评估统计显著性,此类网络专门建模视觉感知。我们的实验表明,具有更高人-模型相似度的网络与两项计算机视觉任务(下一帧预测和物体匹配准确率)上更好的性能相关。此外,HMS 能识别在两项任务上均高性能的网络。一个意外的次要发现是该指标可在训练中用作早停机制。
引用
@article{arxiv.1805.10726,
title = {A Neurobiological Evaluation Metric for Neural Network Model Search},
author = {Nathaniel Blanchard and Jeffery Kinnison and Brandon RichardWebster and Pouya Bashivan and Walter J. Scheirer},
journal= {arXiv preprint arXiv:1805.10726},
year = {2018}
}
备注
Under review