绕圈前行：循环连接在视觉推断中的作用
神经元与认知
2020-12-09 v3 计算机视觉与模式识别
摘要
生物视觉系统表现出丰富的循环连接。相比之下，最先进的视觉识别神经网络模型严重或完全依赖前馈计算。任何有限时间循环神经网络（RNN）均可沿时间展开为等价的前馈神经网络（FNN）。这一重要见解暗示计算神经科学家或许无需涉及循环计算，而计算机视觉工程师若构建循环模型则可能将自己局限于 FNN 的特例。本文持相反论点：FNN 是 RNN 的特例，计算神经科学家与工程师应利用循环以理解大脑与机器如何（1）实现更大且更灵活的计算深度，（2）将复杂计算压缩至有限硬件中，（3）通过期望与注意力将先验与优先级整合进视觉推断，（4）利用其数据中的序列依赖以改进推断与预测，以及（5）发挥迭代计算的力量。
引用
@article{arxiv.2003.12128,
title = {Going in circles is the way forward: the role of recurrence in visual inference},
author = {Ruben S. van Bergen and Nikolaus Kriegeskorte},
journal= {arXiv preprint arXiv:2003.12128},
year = {2020}
}