基于字典的低秩近似与混合稀疏编码问题
机器学习
2022-01-24 v2 机器学习
摘要
约束张量和矩阵分解模型允许从多路数据中提取可解释的模式。因此,约束低秩近似的可辨识性性质和高效算法是当今重要的研究课题。这项工作处理的是低秩近似的因子矩阵列在已知且可能过完备的基中稀疏的问题,该模型被称为基于字典的低秩近似(DLRA)。虽然早期的贡献侧重于在候选列的字典中寻找因子列,即单稀疏近似,但本工作是首次处理稀疏度大于 1 的 DLRA。我提议专注于在采用交替优化策略求解 DLRA 时出现的稀疏编码子问题,称为混合稀疏编码(MSC)。提供了几种基于稀疏编码启发式算法(贪婪方法、凸松弛)的算法来求解 MSC。这些启发式算法的性能在模拟数据上进行了评估。然后,我展示了如何将基于 LASSO 的高效 MSC 求解器应用于高光谱图像处理和化学计量学背景下的基于字典的矩阵分解和规范多分解。这些实验表明,DLRA 扩展了低秩近似的建模能力,有助于减少估计方差,并增强了估计因子的可辨识性和可解释性。
引用
@article{arxiv.2111.12399,
title = {Dictionary-based Low-Rank Approximations and the Mixed Sparse Coding problem},
author = {Jeremy E. Cohen},
journal= {arXiv preprint arXiv:2111.12399},
year = {2022}
}