层次网络中的卷积字典学习
机器学习
2019-07-24 v1 机器学习
摘要
滤波器组是用于分析自然图像等分段光滑信号的常用工具。受图像在小波域中尺度系数与细节系数经验性观测性质的启发，我们提出一种分段光滑信号的层次化深度生成模型，该模型在尺度间递归：一层的低通尺度系数由对下一层尺度系数滤波并加上由稀疏向量滤波得到的高通细节新息获得。该递归描述了一个线性动态系统，即跨尺度的非高斯 Markov 过程，并与深度网络的多层卷积稀疏编码（ML-CSC）生成模型密切相关，不同之处在于我们的模型允许更深的架构，并融合了稀疏与非稀疏信号表示。我们提出一种交替最小化算法，用于在给定第零层观测（例如自然图像）时学习该层次模型中的滤波器。算法在系数估计步与滤波器更新步之间交替。系数更新步执行稀疏（细节）与光滑（尺度）编码，展开后导出深度神经网络。我们使用 MNIST 展示模型的表示能力及其导出特征（系数）在分类中的表现。
引用
@article{arxiv.1907.09881,
title = {Convolutional Dictionary Learning in Hierarchical Networks},
author = {Javier Zazo and Bahareh Tolooshams and Demba Ba},
journal= {arXiv preprint arXiv:1907.09881},
year = {2019}
}