CSNNs:用于表示学习的无监督、无反向传播卷积神经网络
计算机视觉与模式识别
2020-01-30 v2 机器学习
摘要
本工作结合卷积神经网络(CNNs)、基于自组织映射(SOMs)的聚类与赫布学习,提出卷积自组织神经网络(CSNNs)的构建模块,其以无监督且无反向传播的方式学习表示。我们的方法用 SOMs 的竞争学习过程替代 CNNs 中传统卷积层的学习,同时用独立的类赫布学习规则在这些层之间学习局部掩码,以克服通过聚类学习滤波器时因素解纠缠的问题。我们通过使用所提构建模块设计两个简单模型来研究学到的表示,取得了与许多使用反向传播的方法相当的性能,同时在 Cifar10 上达到可比性能,并为 Cifar100、Tiny ImageNet 和 ImageNet 的一个小子集上的无反向传播方法给出了基线性能。
引用
@article{arxiv.2001.10388,
title = {CSNNs: Unsupervised, Backpropagation-free Convolutional Neural Networks for Representation Learning},
author = {Bonifaz Stuhr and Jürgen Brauer},
journal= {arXiv preprint arXiv:2001.10388},
year = {2020}
}
备注
18 pages,18 figures, Author's extended version of the paper. Final version presented at 18th IEEE International Conference on Machine Learning and Applications (ICMLA). Boca Raton, Florida / USA. 2019