通过梯度展开学习压缩感知测量矩阵
机器学习
2019-07-03 v4 信息论
机器学习
math.IT
摘要
稀疏向量的线性编码被广泛使用,但通常与数据无关——忽略了稀疏性之外任何可能的额外(但先验未知的)结构。在本文中,我们提出一种新方法,用于学习适应数据的线性编码器,同时仍能与广泛使用的 解码器良好配合。凸 解码器阻碍了标准基于梯度的训练所需的梯度传播。我们的方法基于这样一种见解:将凸解码器展开为 个投影次梯度步可以解决此问题。我们的方法可视为一种数据驱动的压缩感知测量矩阵学习方法。我们在 6 个稀疏数据集(3 个合成和 3 个真实)上比较了 10 种算法的经验性能。我们的实验表明,真实数据集中确实存在超出稀疏性的额外结构;我们的方法能够发现并利用它,与先前最先进的方法相比,以更少的测量次数(减少 1.1-3 倍)创建出色的重建。我们展示了我们的方法在极端多标签分类中学习标签嵌入的一个应用,并从经验上表明我们的方法能够匹配或优于 SLEEC 的精度分数,SLEEC 是最先进的基于嵌入的方法之一。
引用
@article{arxiv.1806.10175,
title = {Learning a Compressed Sensing Measurement Matrix via Gradient Unrolling},
author = {Shanshan Wu and Alexandros G. Dimakis and Sujay Sanghavi and Felix X. Yu and Daniel Holtmann-Rice and Dmitry Storcheus and Afshin Rostamizadeh and Sanjiv Kumar},
journal= {arXiv preprint arXiv:1806.10175},
year = {2019}
}
备注
17 pages, 7 tables, 8 figures, published in ICML 2019; part of this work was done while Shanshan was an intern at Google Research, New York