中文

通过重加权学习簇结构稀疏性

机器学习 2019-10-14 v1 信号处理 机器学习

摘要

近来,将迭代算法展开为有限长前馈神经网络的范式在稀疏恢复领域取得了巨大成功。得益于可用的训练数据,所学网络在速度与精度方面均达到了最先进的性能。然而,稀疏背后的结构(对稀疏信号支撑集施加约束)常是关键先验知识,却在现有网络中鲜被考虑。本文旨在弥补这一差距。具体而言,利用迭代重加权 1\ell_1 最小化(IRL1)算法,我们提出通过自适应重加权学习簇结构稀疏性(CSS)。特别地,我们首先将重加权迭代收缩算法(RwISTA)展开为一个端到端可训练的深层架构,称为 RW-LISTA。然后,区别于逐元素重加权,我们提出全局与局部重加权方式用于簇结构稀疏学习。数值实验进一步表明,我们的算法在不同任务上相对于经典算法与基于学习的网络均具有优越性。

关键词

引用

@article{arxiv.1910.05303,
  title  = {Learning Cluster Structured Sparsity by Reweighting},
  author = {Yulun Jiang and Lei Yu and Haijian Zhang and Zhou Liu},
  journal= {arXiv preprint arXiv:1910.05303},
  year   = {2019}
}