面向在线图结构稀疏性的对偶平均方法
机器学习
2019-05-28 v1 人工智能
机器学习
摘要
在线学习算法每次迭代通过一个样本更新模型,因此可高效处理大规模数据集,并有助于在社会效益方面检测恶意事件,如疾病爆发和实时交通拥堵。然而,现有的图结构模型算法聚焦于离线设置和最小二乘损失,无法用于在线设置,而为在线设置设计的方法不能直接应用于复杂(通常非凸)图结构稀疏性模型问题。为克服这些局限,本文我们提出一种用于在线设置下图结构稀疏性约束问题的新算法,称之为\textsc{GraphDA}。\textsc{GraphDA}的关键部分是将平均梯度(对偶空间)和原始变量(原始空间)均投影到低维子空间,从而有效捕捉图结构稀疏性。此外,此处假设的目標函数一般为凸,以处理在线学习设置下的不同损失。据我们所知,\textsc{GraphDA}是首个用于图结构约束优化问题的在线学习算法。为验证我们的方法,我们在基准图和真实世界图数据集上进行了广泛实验。实验结果表明,与其他基线方法相比,\textsc{GraphDA}不仅提升了分类性能,还更高效地成功捕捉图结构特征,从而具有更强的可解释性。
引用
@article{arxiv.1905.10714,
title = {Dual Averaging Method for Online Graph-structured Sparsity},
author = {Baojian Zhou and Feng Chen and Yiming Ying},
journal= {arXiv preprint arXiv:1905.10714},
year = {2019}
}
备注
11 pages, 14 figures