显著性影响的神经网络
神经与进化计算
2010-01-21 v1 神经元与认知
摘要
我们提出了一个简单的神经网络模型,它将传统用于建模神经元间连接的局部连接前馈结构与一层无分化连接相结合,该层模拟了人类边缘系统到皮层的弥散投射。这一新层使得在局部网络处理任务特定或局部信息的同时,能够建模诸如显著性等全局效应。这种简单的组合网络显示出显著性与常规处理之间的相互作用,对应于发育大脑中的已知效应,例如由增强情感引起的强化学习。皮层通过使用边缘系统到皮层的弥散投射来偏置神经元反应,从而影响学习和记忆。标准人工神经网络 (ANN) 不建模这种由上行系统代表的非局部信息流,而上行系统是大脑结构的一个重要特征;尽管它们允许通过多次试验进行联想学习,但根本不提供一次性学习的能力。在本研究中,我们使用人工神经网络 (ANN) 建模这种效应,创建了一个显著性影响的神经网络 (SANN)。我们调整 ANN 以使其具备响应输入显著性信号的能力,并在测试时产生反向显著性信号。本研究表明,与训练数据集中的输入相似的输入组合在测试时会产生相似的反向显著性信号。此外,本研究发现了一种用单次训练迭代训练 ANN 的新方法。
引用
@article{arxiv.1001.3246,
title = {Salience-Affected Neural Networks},
author = {Leendert A. Remmelzwaal and Jonathan Tapson and George F. R. Ellis},
journal= {arXiv preprint arXiv:1001.3246},
year = {2010}
}
备注
24 pages, 7 figures