基于信息论代价的脉冲神经网络训练

脉冲神经网络是一种人工神经网络，其中神经元之间通过脉冲相互通信。脉冲是由其到达时间刻画的相同布尔事件。脉冲神经元具有内部动力学，并对输入的历史作出响应，而非仅对当前输入响应。由于这些特性，脉冲神经网络具有处理时空数据的丰富内在能力。然而，由于脉冲是不连续的“是或否”事件，将梯度下降等传统训练过程应用于脉冲神经元并非易事。在本论文中，我们提出使用随机脉冲神经元模型，其中脉冲输出的概率是参数的连续函数。我们将若干学习任务表述为对某些利用脉冲输出概率分布的信息论代价函数的最小化。我们发展了随机脉冲神经元的通用描述以及一种能够灵活处理丰富时空数据的新脉冲神经元模型。我们针对以下任务提出并推导了学习规则：\n- 检测时空模式的监督学习任务，表述为神经元输出负对数似然（惊奇度）的最小化；\n- 增强神经元输出稳定性的无监督学习任务，表述为熵的最小化；\n- 控制智能体的强化学习任务，表述为神经元输出滤波后惊奇度的调制优化。\n我们在若干实验中测试了推导的学习规则，例如时空模式检测、利用自联想记忆的时空数据存储与回忆、结合监督与无监督学习以加速学习过程、变化环境中简单虚拟智能体的自适应控制。