中文

部分信息分解作为界定神经目标函数的统一方法

神经元与认知 2015-10-07 v1 信息论 math.IT 适应与自组织系统 数据分析、统计与概率

摘要

在许多神经系统中,解剖 motifs 反复出现,但尽管结构相似,它们可执行非常不同的任务。此类 motif 的一个典型例子是六层新皮层的规范微电路,它在皮层区域间重复,并参与若干不同任务(例如感觉、认知或运动任务)。这一观察引发了寻找在该结构中实现的信息处理的共同底层原理(即“目标函数”)的兴趣。根据定义,这样一种目标函数若具有通用性,便不能用处理域特定语言(例如“边缘滤波”、“工作记忆”)来表述。因此,要表述这样的原理,我们必须使用域独立框架。信息论提供了这样一种框架。然而,虽然经典信息论框架关注一个输入与一个输出之间的关系(香农互信息),我们认为神经信息处理关键依赖于将 \textit{multiple} 输入组合以创建处理器的输出。为此,我们使用香农信息论的一个最新扩展,称为部分信息分解(PID)。PID 允许量化多个输入单独提供的(独特信息)、冗余提供的(共享信息)或仅联合提供的(协同信息)关于输出的信息。首先,我们回顾 PID 框架。然后我们应用它重新评估和分析几种早期的信息论神经目标函数提案(预测编码、infomax、coherent infomax、高效编码)。我们发现 PID 允许在共同框架中比较这些目标函数,并且也提供了一种从第一原理设计新目标函数的通用方法。基于此,我们设计并分析了一个新颖的目标函数,称为“coding with synergy”。[...]

关键词

引用

@article{arxiv.1510.00831,
  title  = {Partial Information Decomposition as a Unified Approach to the Specification of Neural Goal Functions},
  author = {Michael Wibral and Viola Priesemann and Jim W. Kay and Joseph T. Lizier and William A. Phillips},
  journal= {arXiv preprint arXiv:1510.00831},
  year   = {2015}
}

备注

21 pages, 4 figures, appendix