用于识别有效刺激的免梯度激活最大化
神经元与认知
2020-09-01 v1 神经与进化计算
摘要
理解脑功能的一个基本问题是何种类型的刺激驱动神经元放电。在视觉神经科学中,该问题也被表述为刻画神经元的感受野。对有效刺激的搜寻传统上依赖于先前研究的见解、直觉与运气的结合。近来,同样的问题出现在卷积神经网络(ConvNets)单元的研究中,并随之发展出一类通常被称为“通过激活最大化进行特征可视化”的解决方法。我们试图将研究 ConvNets 的工具与技术引入生物神经网络的研究。然而,阻碍工具直接迁移的一个关键区别在于,ConvNets 的梯度可通过反向传播获得,而大脑的此类梯度不可得。为规避此问题,我们开发了一种免梯度激活最大化方法,将生成式神经网络与遗传算法相结合。我们将该方法称为 XDream(通过实时进化扩展 DeepDream 以实现激活最大化),并已证明该方法能为猕猴视觉皮层中的神经元可靠地创建强刺激(Ponce 等,2019)。在本文中,我们描述了利用 ConvNet 单元作为神经元的计算机模拟模型来刻画 XDream 方法的广泛实验。我们展示了 XDream 适用于不同网络层、架构和训练集;考察了算法中的设计选择;并提供了选择算法超参数的实用指南。XDream 是一种在黑盒网络中使用庞大且多样的 stimuli 空间揭示神经元调谐偏好的高效算法。
引用
@article{arxiv.1905.00378,
title = {Gradient-free activation maximization for identifying effective stimuli},
author = {Will Xiao and Gabriel Kreiman},
journal= {arXiv preprint arXiv:1905.00378},
year = {2020}
}
备注
16 pages, 8 figures, 3 tables