学习深度 $\ell_0$ 编码器
机器学习
2015-11-24 v2 机器学习
摘要
尽管具有非凸性质， 稀疏逼近在许多理论和应用场景中都是令人期待的。本文通过提出深度 编码器，利用深度学习工具研究 稀疏逼近问题。研究了两种典型形式： 正则化问题和 -sparse 问题。基于坚实的迭代算法，通过引入新型神经元和池化函数，将它们建模为前馈神经网络。施加此类结构先验起到了有效的网络正则化作用。与传统的稀疏编码解决方案相比，深度编码器还具有更快的推断速度、更大的学习容量和更好的可扩展性。此外，在任务驱动的损失函数下，这些模型可以方便地进行端到端优化。数值结果证明了所提编码器的优异性能。
引用
@article{arxiv.1509.00153,
title = {Learning Deep $\ell_0$ Encoders},
author = {Zhangyang Wang and Qing Ling and Thomas S. Huang},
journal= {arXiv preprint arXiv:1509.00153},
year = {2015}
}
备注
Full paper at AAAI 2016