用于加速 CCA 与广义特征分解的双重加速方法

Zeyuan Allen-Zhu; Yuanzhi Li

用于加速 CCA 与广义特征分解的双重加速方法

最优化与控制 2017-01-24 v2 数据结构与算法机器学习机器学习

作者: Zeyuan Allen-Zhu , Yuanzhi Li

摘要

我们研究 $k$ -GenEV 问题（即寻找前 $k$ 个广义特征向量）和 $k$ -CCA 问题（即在典型相关分析中寻找前 $k$ 个向量）。我们提出了算法 $\mathtt{LazyEV}$ 和 $\mathtt{LazyCCA}$ 来解决这两个问题，其运行时间线性依赖于输入规模和 $k$ 。此外，我们的算法是双重加速的：运行时间仅依赖于矩阵条件数的平方根和特征间隙的平方根。这是针对 $k$ -GenEV 和 $k$ -CCA 首次取得此类结果。我们还提供了首个无间隙结果，其运行时间依赖于 $1/\sqrt{\varepsilon}$ 而非特征间隙。

关键词

广义特征分解典型相关分析双重加速方法矩阵条件数特征间隙

引用

@article{arxiv.1607.06017,
  title  = {Doubly Accelerated Methods for Faster CCA and Generalized Eigendecomposition},
  author = {Zeyuan Allen-Zhu and Yuanzhi Li},
  journal= {arXiv preprint arXiv:1607.06017},
  year   = {2017}
}

备注

We have now stated more clearly why this paper has outperformed relevant previous results, and included discussions for doubly-stochastic methods. arXiv admin note: text overlap with arXiv:1607.03463

用于加速 CCA 与广义特征分解的双重加速方法

摘要

关键词

引用

备注

相关论文