基于智能神经元模型的浅层非组织神经网络用于视觉感知
计算机视觉与模式识别
2019-11-01 v2 人工智能
机器学习
神经与进化计算
图像与视频处理
摘要
深度神经网络(DNNs)近期的成功揭示了神经计算在许多具有挑战性应用中的显著能力。尽管 DNNs 源于对生物神经元的仿真,但关于 DNNs 是否是人类智能机制的最终且最佳模型仍存在疑问。具体而言,计算型 DNN 模型与观测到的生物神经元事实之间存在两点差异。第一,人类神经元是随机互联的,而 DNNs 需要精心设计的架构才能正常工作。第二,人类神经元通常具有较长的脉冲延迟(~100ms),这意味着参与决策的层数不多,而 DNNs 可能有数百层以保证高准确率。本文中,我们提出一种新的计算模型,即浅层非组织神经网络(SUNNs),以对比 ANNs/DNNs。所提出的 SUNNs 与标准 ANNs 或 DNNs 在三个基本方面不同:1)SUNNs 基于自适应神经元细胞模型——智能神经元,使每个人工神经元细胞能自适应地响应其输入,而非像 ANNs/DNNs 中的经典神经元模型那样执行固定的加权和操作;2)SUNNs 能以极浅的架构应对计算任务;3)SUNNs 具有如人脑般以及图灵 B 型非组织机器所提出的随机互联的自然拓扑。我们实现了所提出的 SUNN 架构,并在若干无监督早期视觉感知任务上进行了测试。令人惊讶的是,如此简单的浅层架构在我们的实验中取得了非常好的结果。我们新计算模型的成功使其成为图灵 B 型非组织机器首个可工作的实例,其性能可与最先进算法媲美甚至更优。
引用
@article{arxiv.1907.09050,
title = {Shallow Unorganized Neural Networks using Smart Neuron Model for Visual Perception},
author = {Richard Jiang and Danny Crookes},
journal= {arXiv preprint arXiv:1907.09050},
year = {2019}
}