中文

通过(交替)迭代重加权最小二乘实现渐近对数行列式秩最小化

最优化与控制 2021-06-29 v1 数值分析 数值分析

摘要

仿射秩最小化(ARM)问题以其应用广泛和 NP 难而著称。最成功的方法之一——虽 arguably 研究不足——是迭代重加权最小二乘(IRLS),更具体地即 IRLS\mathrm{IRLS}-00。尽管有全面的经验证据表明其总体优于核范数最小化及相关方法,其理论理解仍不尽如人意。特别是,其中出现的正则化参数(记为 γ\gamma)的缓慢下降具有重要意义,引发了有趣的问题。虽常等同于矩阵恢复,我们此处独立考虑 ARM。我们研究 IRLS\mathrm{IRLS}-00 所基于的对数行列式目标函数渐近最小化背后的特定结构与全局收敛性质。我们拓展局部收敛定理,现着重于 γ\gamma 的衰减,并提供代表性示例与反例(如发散的 IRLS\mathrm{IRLS}-00 序列)以厘清理论界限。我们提出一种数据稀疏的交替实现 AIRLS\mathrm{AIRLS}-pp(与先前名为 SALSA\mathrm{SALSA} 的工作相关),连同本工作其余部分,作为更一般张量设定的基础与导引。最后,进行了数值敏感性实验,重申了 IRLS\mathrm{IRLS}-00 的成功,并表明在惊人多的情况下,γ\gamma 的更慢衰减仍会导出 ARM 问题的解,直至可观察到通用可恢复性的精确理论相变。同样,这表明非凸性对于对数行列式方法不如初看之下那般实质且成问题。

关键词

引用

@article{arxiv.2106.14644,
  title  = {Asymptotic Log-Det Rank Minimization via (Alternating) Iteratively Reweighted Least Squares},
  author = {Sebastian Krämer},
  journal= {arXiv preprint arXiv:2106.14644},
  year   = {2021}
}

备注

26 pages + 16 pages supplementary material