无投影在线学习
机器学习
2012-06-22 v1 数据结构与算法
摘要
将在线学习应用于大规模数据集时,计算瓶颈通常在于投影步骤。我们提出了高效的在线学习算法,利用 Frank-Wolfe 技术,以避免投影步骤,转而采用更高效的线性优化步骤。针对在线凸优化问题,我们获得了一系列遗憾界(regret bounds),并在随机在线平滑凸优化等特定情况下获得了更优的界限。除了计算优势外,我们算法的其他理想特性包括:在随机情况下无需调节参数,并能产生稀疏决策。我们将所提算法应用于计算密集型的协同过滤场景,并在标准数据集上展示了理论改进带来的显著效果。
引用
@article{arxiv.1206.4657,
title = {Projection-free Online Learning},
author = {Elad Hazan and Satyen Kale},
journal= {arXiv preprint arXiv:1206.4657},
year = {2012}
}
备注
ICML2012