三状态神经网络:从互信息到哈密顿量
统计力学
2007-05-23 v1 无序系统与神经网络
q-bio
摘要
三状态神经网络的互信息 可精确得到,其作为宏观参数函数:交叠度、神经活性以及活动-交叠度(即限制在活跃神经元上的交叠度)。我们对 关于交叠度和活动-交叠度进行展开,以神经元几乎独立于模式时的值为中心。从该展开我们得到一个哈密顿量,其优化了该系统的检索性能。该哈密顿量具有无序 Blume-Emery-Griffiths 模型的形式。该哈密顿量对应的动力学被求出。作为该网络的特殊特征,我们发现即使无交叠度时信息也可存活。因此,该模式的吸引子范围和检索容量远大于 Hopfield 网络。对极稀疏版本进行分析,绘制信息曲线并构建相图。
引用
@article{arxiv.cond-mat/9912328,
title = {Three-state neural network: from mutual information to the hamiltonian},
author = {David R. Dominguez Carreta and Elka Korutcheva},
journal= {arXiv preprint arXiv:cond-mat/9912328},
year = {2007}
}
备注
10 pages (including 6 postscript figures)