利用数学优化在线性模型中权衡 1-范数及稀疏性与秩:1-范数最小化的部分自反 ah-对称广义逆
最优化与控制
2020-11-06 v1 数值分析
数值分析
摘要
M-P(Moore-Penrose)伪逆的一个关键应用是计算不相容线性方程组的最小二乘解。无论给定输入矩阵是否稀疏,其 M-P 伪逆都可能是稠密的,这可能导致很高的计算负担,尤其在处理高维矩阵时。M-P 伪逆由四个性质唯一刻画,但其中只有两个性质是计算最小二乘解所必需的。Fampa 和 Lee(2018)以及 Xu、Fampa、Lee 和 Ponte(2019)提出了局部搜索过程,以构造满足两个关键 M-P 性质外加一个(所谓自反性质)的稀疏分块结构广义逆。该额外的 M-P 性质等价于对广义逆施加最小秩条件。(向量)1-范数最小化用于诱导稀疏性,并且重要的是,用于控制所构造广义逆的元素的量级。在此,我们研究可用于计算最小二乘解的广义逆中低 1-范数与低秩之间的权衡。我们提出了几种算法途径,从满足两个关键 M-P 性质的 -范数最小化广义逆出发,通过迭代施加自反性质逐步降低其秩。算法迭代直至广义逆达到尽可能小的秩。在迭代过程中,我们产生中间解,以在低 1-范数(通常高稀疏性)与低秩之间进行权衡。
引用
@article{arxiv.2011.02509,
title = {Trading off 1-norm and sparsity against rank for linear models using mathematical optimization: 1-norm minimizing partially reflexive ah-symmetric generalized inverses},
author = {Marcia Fampa and Jon Lee and Gabriel Ponte},
journal= {arXiv preprint arXiv:2011.02509},
year = {2020}
}