具有局部感受野的时间乘积网络中复杂样细胞的涌现
神经与进化计算
2010-06-03 v1
摘要
我们提出了一种新的神经架构和一种无监督算法，用于从图像的时间序列中学习不变表示。该系统使用两组复杂细胞，其输出通过乘法方式组合：一组表示图像的内容，约束为在连续几帧中保持不变；另一组表示特征的精确位置，允许随时间变化但约束为稀疏。该架构使用编码器提取特征，并使用解码器从特征重建输入。该方法应用于从连续电影帧中提取的图像块，并产生类似于V1中复杂细胞的方向和频率选择性单元。我们提出了一种扩展方法，用于训练由具有局部感受野的单元组成的网络，这些感受野分布在大尺寸任意图像上。一层受稀疏性约束的复杂细胞，在重叠的局部邻域上汇集特征单元，这导致特征单元自组织成方向选择性感受野的针轮模式，类似于在哺乳动物视觉皮层中观察到的模式。一个前馈编码器高效地计算完整图像的特征表示。
引用
@article{arxiv.1006.0448,
title = {Emergence of Complex-Like Cells in a Temporal Product Network with Local Receptive Fields},
author = {Karo Gregor and Yann LeCun},
journal= {arXiv preprint arXiv:1006.0448},
year = {2010}
}