LSALSA：通过习得稀疏编码加速源分离

我们提出了一种用于广义稀疏编码（SC）推断问题的高效算法。所提框架适用于单字典设定（其中每个数据点表示为一个字典矩阵各列的一个稀疏组合），也适用于形态分量分析（MCA）给出的多字典设定，其目标是将信号分离为加性部分，使得每个部分在相应字典中具有不同的稀疏表示。SC 任务及其通过 MCA 的推广均已被构建为 $\ell_1$ 正则化最小二乘优化问题。为加速传统的稀疏编码获取，我们提出了一种深度学习架构，其构成可训练的、时间展开版的分裂增广拉格朗日收缩算法（SALSA）——乘子交替方向法（ADMM）的一个特例。我们在图像视觉任务上实证验证了我们所指为 LSALSA（learned-SALSA）的两种算法变体，并证明在推断时我们的网络在运行时间、估计稀疏编码的质量以及经典 SC 和 MCA 问题上的视觉清晰度方面均取得巨大改进。最后，我们提出了一个分析 LSALSA 网络的理论框架：我们表明所提方法精确实现了应用于一个新的、习得的代价函数的截断 ADMM，其曲率由一个习得参数化矩阵修正。我们扩展了一个非常近期的随机交替优化分析框架，以表明沿该习得损失地貌的梯度下降步等价于沿原始损失地貌的修正梯度下降步。在此框架中，LSALSA 实现的加速可能由网络学习对更陡下降梯度方向的修正的能力来解释。