用于最优求解深度字典学习的主化最小化技术
机器学习
2019-12-24 v1 信号处理
摘要
深度字典学习的概念近来被提出。与学习单层字典来表示数据的浅层字典学习不同，它使用多层字典。迄今为止，该问题只能以贪婪方式求解；这是通过在每个阶段学习单层字典实现的，其中来自前一层的系数作为后续层的输入(仅第一层使用训练样本作为输入)。这并非最优；存在从较浅层到较深层的反馈，但反之则无。本工作提出深度字典学习的最优解，从而所有层字典被同时求解。我们采用主化最小化方法。已在基准数据集上开展实验；结果表明最优学习确实优于贪婪的逐块学习。与其他无监督深度学习工具(栈式去噪自编码器、深度信念网络、收缩自编码器和 K-稀疏自编码器)的比较显示，我们的方法在准确率和速度上均超越其性能。
引用
@article{arxiv.1912.10801,
title = {Majorization Minimization Technique for Optimally Solving Deep Dictionary Learning},
author = {Vanika Singhal and Angshul Majumdar},
journal= {arXiv preprint arXiv:1912.10801},
year = {2019}
}