学习具有结构化稀疏性的层次与拓扑字典
机器学习
2011-10-21 v1
摘要
信号处理与统计学领域的近期工作聚焦于定义新的正则化函数,这些函数不仅能诱导解的稀疏性,还能考虑问题的结构。本文介绍了一类由机器学习社区提出的凸惩罚项,其形式为对变量分组上的 范数与 范数求和。它们在分组可能重叠的意义上推广了经典的分组稀疏正则化,从而在分组设计上提供了更大的灵活性。我们综述了处理相应反问题的高效优化方法,以及它们在自然图像块字典学习问题中的应用:一方面,字典学习已被证明对各种信号处理任务有效;另一方面,结构化稀疏为建模字典元素之间的依赖关系提供了一个自然框架。因此,我们考虑使用结构化稀疏正则化来学习嵌入在特定结构(例如树或二维网格)中的字典。在后一种情况下,我们所得到的字典与拓扑独立成分分析所生成的字典类似。
引用
@article{arxiv.1110.4481,
title = {Learning Hierarchical and Topographic Dictionaries with Structured Sparsity},
author = {Julien Mairal and Rodolphe Jenatton and Guillaume Obozinski and Francis Bach},
journal= {arXiv preprint arXiv:1110.4481},
year = {2011}
}