估计线性 - 非线性模型目标函数的比较
神经元与认知
2008-01-03 v1 定量方法
摘要
本文在线性 - 非线性模型框架下，比较了一系列利用自然刺激表征神经特征选择性的方法。在该模型中，神经发放率是少数相关刺激分量的非线性函数。相关的刺激维度可通过最大化一族目标函数（不同阶数的 Rényi 散度）之一来找到。我们证明，最大化其中之一（即 2 阶 Rényi 散度）等价于对神经数据进行线性 - 非线性模型的最小二乘拟合。接下来，我们推导了在大量脉冲数的渐近极限下，通过最大化任意阶数 Rényi 散度所找到的相关维度的重构误差。我们发现，最小的误差是通过 1 阶 Rényi 散度（也称为 Kullback-Leibler 散度）获得的。这对应于通过最大化互信息来寻找相关维度。我们在低信噪比（脉冲数少且神经噪声增加）条件下，数值测试了这些优化方案在模型视觉神经元中的表现。我们发现，基于最小二乘拟合或信息最大化的优化方案即使在脉冲数较少时也能表现良好。信息最大化提供的重构效果略优于但显著好于最小二乘拟合。这使得寻找相关维度的问题，连同有损压缩问题，成为信息论度量并不比源自最小二乘法的度量更受数据限制的例子之一。
引用
@article{arxiv.0801.0311,
title = {Comparison of objective functions for estimating linear-nonlinear models},
author = {Tatyana O. Sharpee},
journal= {arXiv preprint arXiv:0801.0311},
year = {2008}
}
备注
to appear in Advances in Neural Information Processing Systems 21 (NIPS, 2007)