从 Oja 算法到乘性权重更新方法及其应用
最优化与控制
2023-10-25 v1 机器学习
摘要
Oja 算法是一种著名的在线算法，主要在随机主成分分析的语境中被研究。我们提出一个简单但据我们所知尚属新颖的观察：当应用于任意（不必随机的）共享共同特征向量的对称矩阵序列时，Oja 算法的遗憾可直接通过著名的专家建议预测问题中的乘性权重更新方法的遗憾来界定。我们讨论了其在 中单位球面上二次型优化方面的若干应用。
引用
@article{arxiv.2310.15559,
title = {From Oja's Algorithm to the Multiplicative Weights Update Method with Applications},
author = {Dan Garber},
journal= {arXiv preprint arXiv:2310.15559},
year = {2023}
}