稀疏数据依赖噪声下基于PCA的快速鲁棒子空间跟踪
机器学习
2022-09-01 v3 信息论
math.IT
机器学习
摘要
本文研究鲁棒子空间跟踪（ST）问题。鲁棒ST可以简单理解为鲁棒PCA的（缓慢）时变子空间扩展。它假设真实数据位于一个低维子空间中，该子空间要么固定，要么随时间缓慢变化。目标是在存在加性稀疏离群值的情况下，随时间跟踪变化的子空间，并快速（以短延迟）完成。我们引入了一种“快速”小批量鲁棒ST解决方案，该方案在温和假设下可证明是正确的。这里的“快速”有两层含义：（i）可以检测到子空间变化并以接近最优的延迟跟踪子空间，以及（ii）这样做的时间复杂度与简单（非鲁棒）PCA相同。我们的主要结果假设了分段常量子空间（这是可识别性所必需的），但我们也为每次都有微小变化的情况提供了一个推论。第二个贡献是针对线性数据依赖噪声下的PCA提供了一个新颖的非渐近保证。一个重要的应用场景是线性数据依赖噪声，该噪声是稀疏的，且其支撑集随时间变化足够大。我们提出的鲁棒ST解决方案的子空间更新步骤的分析使用了这一结果。
引用
@article{arxiv.2006.08030,
title = {Fast Robust Subspace Tracking via PCA in Sparse Data-Dependent Noise},
author = {Praneeth Narayanamurthy and Namrata Vaswani},
journal= {arXiv preprint arXiv:2006.08030},
year = {2022}
}
备注
To appear in IEEE Journal of Special Areas in Information Theory