随机且私有的非凸鲁棒主成分分析
机器学习
2022-03-18 v1 密码学与安全
最优化与控制
摘要
我们开发了具有理论保证的离群点鲁棒主成分分析(PCA)的随机方法。离群点鲁棒 PCA 旨在从被离群点污染的数据集中寻找潜在的低维线性子空间。通过一种新颖的收敛性分析,我们证明了我们的方法——涉及 Grassmannian 流形上的随机测地梯度下降——在各种情形下能够收敛并恢复潜在子空间。该方法的主要应用是一个有效的差分私有离群点鲁棒 PCA 算法,该算法在随机梯度方法中使用了高斯噪声机制。我们的结果强调了在非凸方法相较于另一种用于解决该差分私有设定下问题的凸方法的优势。在合成与风格化数据上的实验验证了这些结果。
引用
@article{arxiv.2203.09276,
title = {Stochastic and Private Nonconvex Outlier-Robust PCA},
author = {Tyler Maunu and Chenyu Yu and Gilad Lerman},
journal= {arXiv preprint arXiv:2203.09276},
year = {2022}
}
备注
34 pages, 9 figures